随着人工智能技术的飞速发展，诈骗团伙使用的诈骗手段也越来越科技化，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤等违法行为屡见不鲜。
近日，“AI诈骗正在全国爆发”话题一度登上热搜榜，引发网友热议。记者了解到，类似的AI换脸诈骗案件在安徽也曾发生过。
案例：AI“换脸”诈骗200余万元
仅9秒视频通话“轻松”骗取245万元。今年4月，安庆经开区发生一起“冒充熟人”诈骗案。经开区公安局反诈骗中心民警发现，诈骗分子利用9秒智能AI换脸视频，冒充“熟人”，让受害人放松警惕，实施诈骗。
“我在视频里看到了他的脸”，“但没几秒就挂断了，说在开会，不能说话。”4月27日，何先生的微信“好友”突然主动与何先生视频通话，接通后，何先生看到“好友”在会议室，正准备继续问问题，“好友”直接挂断电话，称会议上有重要的事情要说，需要何先生加QQ沟通。
随后，该“朋友”在QQ上告诉何先生，有一个项目招标需要流动资金，希望何先生帮忙垫付货款。“因为有视频通话，而且对方是熟人”，“我也没多想，就把钱转了过去。”基于对这位“熟人”的信任，何先生没有犹豫，立即让家人将245万元转入对方指定的账户。直到后来他给对方打电话，才意识到自己被骗了。
接报后，安庆经济开发区公安局立即调集精干警力，组成专案组，对涉案资金流向和账户信息进行跟踪侦查。在获取大量线索后，专警连夜奔赴外省市，于4月28日下午将李某某等3名犯罪嫌疑人抓获，扣押涉案手机26部，冻结、追缴诈骗资金百余万元。
经调查发现，李某等3人明知该笔资金为上游犯罪所得，为牟取非法利益，通过各种方式帮助上游犯罪分子转移近百万元，涉嫌掩饰、隐瞒犯罪所得。为尽快追回骗取的资金，办案组多次与相关部门沟通，5月22日，警方将追回的132万元骗取资金返还给何先生。目前，该案正在进一步侦查中。
现象：多地发生类似事件
据媒体报道，此前多地都发生过类似案件。4月20日，福建福州的郭先生朋友突然通过微信视频联系他，称朋友在外地竞标需要430万元保证金，需要将资金从对公账户转到对公账户，所以想借用郭先生公司的账户。郭先生基于对朋友的信任，且已经通过视频聊天验证过身份，在未核实钱款是否到账的情况下，分两次将430万元转入朋友朋友的银行卡内。随后，郭先生致电朋友，才意识到被骗。骗子利用智能AI换脸、拟声词技术，冒充朋友实施诈骗。
“他从没找我借钱，只是说先把钱转给我，再让我转到他朋友的账户上制作盗号软件教程，当时还给我打了视频电话，我在视频里确认了他的面容和声音，就放松了警惕。”郭先生说。好在福建福州、内蒙古包头警方和银行接到报警后，迅速启动止付机制，成功止付336.84万元，但仍有93.16万元被转走，目前正在全力追缴。
据媒体报道，除了冒充“熟脸”实施诈骗，AI换脸还可能出现在直播带货中。近日，网上出现一些“换脸直播”教程，教程发布者称，实时换脸软件可以帮助用户轻松“换脸”，对引流销售有很大帮助。在一则展示换脸直播效果的视频中，用户将明星模型加载到相关软件后，镜头前的人五官与直播画面中的明星相似，但脸型、发型保持不变。
此外，还有消息称，有人利用“AI换脸技术”合成淫秽视频，向他人收费观看，甚至根据客户需求，使用不同的女明星形象进行“私人定制”，通过销售“换脸软件”牟取不法利润。4月9日，据杭州市人民检察院通报，80后男子余某因涉嫌制作、传播淫秽物品牟利，近日被提起公诉。对此，萧山检察官提醒制作盗号软件教程，“AI换脸技术”即使只是用于搞笑、恶搞照片，也可能涉及肖像权、名誉权的侵犯，如果造成严重后果，还可能构成侮辱、诽谤。希望大家依法使用这项技术，一旦遇到类似本案利用“AI换脸技术”犯罪的，应尽快固定证据，及时向司法机关举报。
提醒：远程转账需多次验证
记者了解到，AI诈骗常见手法主要有语音合成和AI换脸。诈骗分子通过骚扰电话录音等方式提取某人的声音，获取素材后再进行语音合成，这样就能用假声音欺骗对方。相比语音合成诈骗，AI换脸诈骗更容易骗人，因为人脸效果更容易取得对方的信任。诈骗分子利用AI技术换脸，可以伪装成任何人，然后通过视频确认信息。诈骗分子先分析公众在网上发布的各类信息，根据拟实施的诈骗手段，利用AI技术筛选目标人群。在视频通话中使用AI换脸骗取信任。此外，还有转发微信语音等。盗取微信账号后，诈骗分子向好友“借钱”。为了取得对方的信任，他们会转发之前的语音，然后骗取钱财，虽然微信没有语音转发功能，但是他们通过提取语音文件或者安装非官方版本（插件）来实现语音转发。
中国互联网协会也于近日就新型“AI换脸”骗局发出警示。做个人信息安全第一责任人，强化个人信息保护意识，防范信息泄露：不轻易向他人提供人脸、指纹等个人生物特征信息；不轻易泄露自己的身份证、银行卡、验证码等信息；不贪图便利，直接在手机里存储身份证、银行卡照片等。如发现APP过度或强制收集个人信息，请向12321.cn投诉。不点击陌生链接、不下载陌生软件、不随意添加陌生好友、不随意扫描来历二维码。管理好自己的朋友圈，不轻易向陌生人开放手机屏幕共享。做好个人防护，安装安全软件，防止手机、电脑感染病毒。警惕个人账号安全，尤其要警惕陌生设备登录，防止微信、QQ等被盗账号给亲朋好友带来困扰。对于不常用的APP，建议卸载前先注销个人账号。如APP未提供注销个人账号方式，或设置注销账号各种障碍，请向12321投诉。
此外，异地转账一定要多次验证，要时刻盯紧钱袋子。如果有人自称是“家人”、“朋友”、“老师”、“领导”，通过社交软件、短信、邮件等方式和理由诱导你转账，比如“手机掉水里了，学校急需交补习班的学费”、“我出国旅游，需要帮忙买机票”、“我领导有私事，急需转账”、“我出车祸了，需要马上做手术”、“情况特殊，需要借过桥资金”等，一定要第一时间警惕。AI时代，文字、声音、图像、视频都可能被深度合成，在转账、汇款等典型场景中，应该通过回拨对方手机号等附加通讯方式进行验证确认。不要在没有验证的情况下，直接通过单一通讯渠道转账，不管对方是谁。
大晚报记者 陈牧
