AI换脸上热搜! 长相声音都对,安庆一男子被骗245万元

随着人工智能技术的迅猛发展,诈骗团伙的诈骗手段也越来越科技化,利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。近日,“AI诈骗正在全国爆发”话题一度冲上热搜第一,引发网友热议。记者了解到,类似AI换脸诈骗案件,安徽也有发生。

案例:AI“换脸”诈骗二百多万

仅是一段9秒钟的视频通话,就“轻松”骗走245万元。今年4月,安庆经开区发生一起“冒充熟人”诈骗案,经开公安分局反诈中心民警调查发现诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”,让受害人放松警惕从而实施诈骗。


(相关资料图)

“视频里边我看到是他的脸”,“但是没几秒就挂了,说在开会不方便”。4月27日,何先生的微信“好友”突然向其发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,就在他准备进一步询问时,“好友”直接挂断了电话,并表示在会议中有重要事情交代,需要何先生添加QQ沟通。

随后,“好友”在QQ上告诉何先生,目前有一个项目招标需要周转资金,希望何先生先行帮忙垫付。“因为打了视频电话又是熟人”,“我就没多想,就转账了”,基于对“熟人”的信任,何先生没有犹豫,立刻让家人将245万元到对方指定的账号上,直到事后拨打对方电话才得知被骗。

接报案后,安庆经开公安分局立即抽调精干警力组成专案组第一时间对涉案账户的资金流、信息流进行查询追踪。在掌握大量线索后,专案民警连夜赶赴外省市,于4月28日下午一举抓获李某某等3名犯罪嫌疑人,扣押涉案手机26部,冻结、追回电诈资金一百余万元。

经查,李某某等3人为牟取非法利益,在明知资金为上游违法犯罪所得的情况下,通过多种方式帮助上游犯罪分子转移资金近百万元,涉嫌掩饰、隐瞒犯罪所得。为尽快返还被骗资金,办案组多次与相关部门进行沟通,5月22日,民警将先行追回的132万元被骗款返还给何先生。“没想到这么快就追回来了,现在公安办案都是神速”,看到被骗的钱失而复得,何先生特意送上“反诈先锋 勤政为民”锦旗致谢,目前,该案件正在进一步侦办中。

现象:多地都有类似事件发生

据媒体报道,此前多地都发生过类似案例。4月20日,福建福州郭先生的好友突然通过微信视频联系他,称自己的朋友在外地竞标需要430万保证金,且需要公对公账户过账想要借郭先生公司的账户走账。基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。之后,郭先生拨打好友电话才知道被骗,骗子通过智能AI换脸和拟声技术,佯装好友实施了诈骗。

“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去。而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备”郭先生说。幸运的是,接到报警后福建福州、内蒙古包头,两地警方和银行,迅速启动止付机制,成功止付拦截336.84万元,但仍有93.16万元被转移,目前正在全力追缴中。

另据媒体报道,除了佯装“熟人脸”实施诈骗,AI换脸还可能出现在直播带货中。最近,网上出现了一些“换脸直播”教程,教程发布者声称实时变脸软件可以帮助用户轻松“变脸”,极大地助力引流卖货。在一个展示换脸直播效果的视频中,使用者把某明星的模型载入相关软件后,摄像头前的人在直播画面中就有了与明星相似的五官,但脸型和发型还保持原样。

此外,还有报道显示,有人用“AI换脸技术”合成淫秽视频,收费供他人观看,甚至根据顾客的需要使用不同的女明星形象进行“私人定制”,还通过出售“换脸软件”非法获利。4月9日,据杭州市人民检察院消息,近日,一80后男子虞某因涉嫌制作、传播淫秽物品牟利罪被提起公诉。对此,萧山检察官提醒,"AI换脸技术"即便只是用来搞笑或者制作恶搞照片,也有可能涉及侵犯肖像权、名誉权,造成严重后果的,还可能构成侮辱罪或者诽谤罪。希望大家依法使用该项技术,一旦遇到类似本案中利用"AI换脸技术"实施犯罪行为的,应第一时间固定证据,并及时向司法机关报案。

提醒:远程转账务必多重验证

记者了解到,AI诈骗常用手法主要是声音合成、AI换脸等。骗子通过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过对方。相对于声音合成诈骗,AI换脸的骗术更容易让人上当,因为人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人,再通过视频方式进行信息确认。骗子首先分析公众发布在网上的各类信息,根据所要实施的骗术,通过AI技术筛选目标人群。在视频通话中利用AI换脸,骗取信任。此外,还有转发微信语音等,骗子在盗取微信号后,便向其好友“借钱”,为取得对方的信任,他们会转发之前的语音,进而骗取钱款。尽管微信没有语音转发功能,但他们通过提取语音文件或安装非官方版本(插件),实现语音转发。

中国互联网协会日前也对“AI换脸”新骗局做出提醒。做好个人信息安全第一责任人,加强个人信息保护意识,防止信息泄露:不轻易提供人脸、指纹等个人生物信息给他人;不要轻易透露自己的身份证、银行卡、验证码等信息;不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。发现APP过度、强制收集个人信息,请至12321.cn投诉。陌生链接不要点,陌生软件不要下载,陌生好友不要随意添加,不明二维码不要随意扫描。管理好自己的朋友圈,也不要轻易向陌生人开启手机屏幕共享。做好个人防护,安装安全软件,防止手机和电脑中病毒。对个人账户的安全状况保持警惕,尤其是陌生设备的登陆情况,防止微信、QQ等被盗号给亲朋好友带来麻烦。对于不常用的APP,建议卸载前注销个人账号。APP不提供个人账号注销方式,或为注销账号设置各类障碍的,请至12321.cn投诉。

此外,远程转账务必需要多重验证,把好“钱袋子”,如果有人自称“家人”“朋友”“老师”“领导”通过社交软件、短信、电子邮件等以“手机掉水里了,学校需要紧急交辅导班学费”“人在境外旅游,需要帮忙买机票”“给领导办私事,需紧急转账”“遭遇车祸,需要马上手术”“情况特殊,需要过桥资金拆借”等各种方式和理由诱导你转账汇款,务必第一时间提高警惕。在AI时代,文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景,要通过回拨对方手机号等额外通信方式核实确认,不要仅凭单一沟通渠道未经核实就直接转账汇款,无论对方是谁。

大皖新闻记者 陈牧

关键词: