随着人工智能的迅猛发展，“高端骗局”——AI诈骗也逐渐“浮出水面”。近日，福州一老板被AI换脸骗走430万元的消息引爆网络，传遍了整个朋友圈。

在我们身边，AI换脸诈骗风险几何？记者昨天从市反诈中心了解到，目前，南通尚未发现此类AI换脸诈骗警情。不过，我市警方曾发布提醒：所听所见未必真，警惕AI诈骗！

骗子使用AI换脸冒充好友，10分钟诈骗430万元！5月20日，包头警方发布的一起电信诈骗案引发全国网友热议。

据“平安包头”微信公众号消息，4月20日上午11时40分左右，福州市某科技公司法定代表人郭先生突然收到好友微信视频，对方告诉郭先生，自己的朋友在外地投标，需要430万元保证金，且需要公对公账户过账，想借用郭先生公司的账户走一下账。好友向郭先生要了银行卡号，声称已经把钱打到郭先生的账户，还把银行转账底单的截图通过微信发给了郭先生。郭先生没有核实钱款是否到账，于上午11时49分先后分两笔把430万元给对方打了过去。钱款转账后，郭先生给好友微信发了一条消息，称事情已经办妥，但让他没想到的是，好友回过来的消息竟然是一个问号。郭先生拨打好友电话，对方说没有这回事，他这才意识到遇上了“高端”骗局，对方通过智能AI换脸技术，佯装成好友对他实施了诈骗。

“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生说。

此事一出，舆论高度关注，AI诈骗、AI换脸等话题迅速引爆网络。万幸的是，此案中的大部分被骗钱款被成功止付。案发当天中午12时21分，包头警方接到福建警方的外协请求，称涉案的银行卡为包头市蒙商银行对公账户。包头市公安局电信网络犯罪侦查局启动“包头市警银联动绿色查询机制”，联合蒙商银行相关部门，用时10分钟成功拦截该诈骗账户内的336.84万元被骗资金，同时向福建警方提供了剩余款项93.16万元资金流出信息。目前，相关资金正在全力追缴中。

技术难度极高 我市未现AI换脸诈骗警情

技术作为工具，本没有善恶之分，但被不法分子利用，不得不防。案件披露后，网友们纷纷表达了担忧与恐惧，“AI诈骗正在全国爆发”等相关词条甚至冲上微博热搜榜前列。

此类诈骗真的爆发了吗？多名业内人士认为，目前的AI换脸技术如嵌进视频通话中，要做到不卡顿、呈现肉眼难以识别的真实质感，在技术上并非易事。有反诈专家指出，从目前技术看，想要盗取微信账号、劫持微信镜头并在实时视频聊天中运用AI实时换脸和变声技术，难度和成本都极高。“骗子通常都是用很低的成本博取很高的收益，不太可能花费高昂代价去批量寻找受害者。”亦有专业人士表示，从现有的技术发展看，虽然完成相关诈骗过程不是完全没有可能，但因为成本高，在现实中被使用的概率较低，“这个诈骗案还有许多细节尚未披露，仅仅通过一次短暂而逼真的AI视频聊天，就能骗走几百万元，不太现实，中间一定还有很多复杂的过程。”受访者们表示，利用AI技术实施电信网络诈骗，目前并未形成爆发态势。

记者昨天从市反诈中心了解到，此次冲上热搜的AI刷脸诈骗，截至目前我市还没有发现类似警情。

不必过度恐慌，但也不要放松警惕。不容忽视，AI技术被用于犯罪领域的风险日益凸显。去年8月，市公安局官方网站就曾针对AI诈骗发出防范提醒《所见！所听！不一定为真，警惕AI诈骗！》。文中揭露了AI诈骗的几种常用手法：声音合成，骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。AI换脸，在行骗过程中，人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。转发语音，尽管微信没有语音转发功能，但不法分子通过提取语音文件或安装非官方版本、插件，实现语音转发。骗子在盗取微信号后，为取得对方的信任，他们会转发之前的语音，从而骗取钱款。筛选人群，骗子不是漫无目的地全面撒网，而是别有用心地锁定特定对象。他们利用AI技术根据所要实施的骗术对人群进行筛选，从而选出目标对象。

防范并不困难 市民要注重保护个人隐私

假如骗子真在实时视频通话中用上了AI换脸技术并盯上了你，该如何防范？5月28日，省公安厅官方微信“江苏警方”为广大网友支招，一是让对方用手指或者其他遮挡物在脸前晃动，如果画面出现类似果冻效应或者抽搐，那对方很可能正在使用AI换脸技术。二是询问对方一些私密的问题，比如自己的喜好等等，来确认对方的身份。三是要求对方线下见面，凡是对方提到转账、借钱等涉及经济往来的，为安全起见，可以要求对方线下见面。

警方同时表示，在未获得授权的情况下，将某人AI换脸，涉嫌侵犯此人肖像权；若导致其社会评价降低，涉嫌侵犯其名誉权；若使用某部影视作品的片段，则涉嫌侵犯作品著作权。若是利用此人肖像制作淫秽视频售卖或是进行换脸诈骗，将承担刑事责任。

电信诈骗不断翻新，筑牢个人安全防线是关键。市公安局官方网站最近发文提醒市民朋友，时刻保持警惕之心，对陌生电话、短信、邮件，无论是视频聊天还是语音通话都要谨慎对待，遇到可疑情况，要及时向相关部门求证。注重保护个人隐私，不在网络上轻易泄露自己的联系方式、个人照片等重要身份信息，防止骗子进行针对性的人物刻画。 本报记者张亮