现代快报讯(记者 纪宇)近日,南京一女子疑似被AI换脸骗走3000元。虽然被骗金额不大,但换脸背后的隐患让人捏一把汗。现代快报记者发现,目前市面上还有不少APP可以轻松实现换脸。AI换脸作为新兴技术,此前缺乏专门的法律法规对其进行制约。但《民法典》实施后,AI换脸被纳入肖像权的保护范围。
事件
“同学”来借钱,发短视频证明是“自己”
1月10日,东北的小李和母亲来南京旅游,此时大学同学小王通过QQ联系到她,称其堂兄生病住院,急需用钱。
小王称自己的银行卡被冻结了,但是表哥生病了,急需用钱,就想找小李借点钱,小李并没有立刻把钱转走,而是想先确认一下小王的身份。
“我给她打电话,她说不在,没接。后来她视频给我打来了。”小李说,正是这四五秒的视频通话,让小李确认对方是隔壁宿舍的昔日同学小王。但奇怪的是,小王在短视频里没有说话。视频结束后,小李打消了疑虑,和妈妈商量着扫码转账3000元。
然而让小李万万没有想到的是,尽管如此小心谨慎,还是被骗了,后来小李打电话联系小王,小王称自己的QQ号被盗了。
据此,南京市公安局秦淮分局五老村派出所民警判断,小李看到的小王的视频很可能是被篡改过的。“很有可能,不法分子获取了小王的一些信息恶搞别人的软件,比如她的面部照片,然后利用AI换脸技术,找到医院里的视频,把小王的脸剪到真正在医院拍摄视频的人的脸上。”张子旭警官说,“所以对方在给小李发视频的时候,并没有做出什么大的动作,只是轻微的头部动作,说明这个人是处于活动状态,而不是静止状态,以此来获取受害人的信任。”
调查
很多APP都可以实现换脸,有很多明星、普通人的模板
2019年,一款AI换脸软件在网络上一夜爆红。用户只需上传一张自己的照片,就能将电影、电视剧或综艺节目中的明星脸换成自己的脸。由于该技术过于真实恶搞别人的软件,达到了“以假乱真”的效果,引发了肖像侵权的热议,软件目前已下架整改。
近日,现代快报记者搜索手机应用商店发现,除了被整改的软件外,还有能轻松换脸的AI换脸APP。这些软件内含明星、网红、普通人的模板,用户可以选择自己喜欢的模板,可以对图片或视频进行换脸。
记者选取了一张自己的正面照,并在其中一款应用中使用了视频换脸功能。整个过程不到10秒,一段热门古装剧片段的换脸视频就制作出来了。不过,这次软件很“谨慎”,在视频上贴上了“版权侵权警告,保护模式”,提示“出于隐私考虑,无法保存或分享”。
不过,其他换脸应用并没有这款换脸应用那么“谨慎”。记者在另一款应用上用同一张照片换脸,选择一位当红女星的红毯视频。不到10秒,一段记者脸部红毯女星视频就制作出来了。而且,这段视频无水印,无侵权分享安全提示,可以轻松下载到手机,也可以发布到各大社交平台。
律师
民法典来了,AI换脸不能再“肆意妄为”
AI换脸作为一项高科技技术,也是一把“双刃剑”。司法实践中,有人利用这一非法手段侵犯他人肖像权,甚至通过剪图、换脸等方式,用于侮辱、诽谤他人。此前,“葛优撒谎”表情包爆红,但演员葛优本人也遭遇了来自各大公众号和商家的侵权问题。他拿起法律武器维权,最终这些官司都以葛优胜诉告终。
2021年1月1日,《民法典》正式实施后,还对AI换脸相关法律问题作出了具体规定。《民法典》第1019条明确规定:任何组织或者个人不得以丑化、毁容或者利用信息技术伪造等方式侵害他人肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人肖像,但法律另有规定的除外。
江苏顺典律师事务所律师衡小春分析,《民法典》条款的出台,意味着未经他人许可使用他人肖像、利用“换脸”技术伪造、制作视频等都是违法行为,哪怕不是以盈利为目的的恶搞、调侃,都是对他人肖像权的侵犯。