在相当长的一段时间里，关于深度造假危险的讨论大多植根于假设——重点关注如何使用这些工具造成伤害的问题，而不是现实世界中的滥用实例。
然而，不久之后，其中一些担忧就变成了现实。一月份，一些新罕布什尔州居民接到了竞选电话，其中包含拜登总统的深度伪造语音模拟，敦促选民跳过该州民主党初选的投票。
在全球近 40% 的国家举行选举的一年里，这种人工智能技术越来越多地被用作操纵群众和改变舆论天平的手段，为特定政党和候选人服务。
最直接的威胁
话虽如此，也许深度造假技术带来的最常被忽视的威胁几乎完全在政治领域之外运作——网络犯罪。更糟糕的是，它很可能是迄今为止该技术最成熟的应用。
在世界经济论坛最近的一份报告中，研究人员报告称，到 2022 年，约 66% 的网络安全专业人员在各自的组织内经历过深度伪造攻击。在一次值得注意的攻击中，大量高管的肖像被深度伪造并用于实时视频通话。这些假冒的高级官员被用来操纵一名初级财务员工将 2500 万美元汇入欺诈者控制下的离岸账户。
在接受当地媒体采访时，攻击的受害者坚称，这些深造的高管与现实几乎没有区别，声音完美，相似度也很高。谁能责怪一名初级员工不质疑一群高管的要求呢？
无论是语音、视频还是两者的组合，人工智能生成的深度伪造品很快就被证明是当今网络犯罪分子武器库中改变游戏规则的武器。最糟糕的是，我们还没有可靠的手段来检测或防御它们。在我们这样做之前，我们肯定会看到更多这样的事情出现。
唯一可行的补救措施（目前）
鉴于目前的事态，对于组织和个人来说，防范恶意深度伪造的最佳防御措施是提高认识和高度谨慎。尽管深度造假如今在媒体上得到了越来越多的报道，但鉴于该技术的发展和扩散速度如此之快，我们应该从屋顶上发出尖叫警告。不幸的是，这种情况可能只有在造成更严重的社会损害之后才会发生。
然而，在组织层面，领导者有能力通过推出意识活动、模拟培训计划和新政策来解决这个问题，以帮助减轻深度造假的影响。
回顾这起价值 2500 万美元的电汇欺诈案，不难想象政策制度——尤其是那些注重权力划分和明确指挥链的政策——本可以避免这样的损失。无论规模、概况或行业如何，今天的每个组织都应该开始制定政策，引入针对此类攻击的权宜之计和故障保护措施。
今天了解你的敌人，明天以毒攻毒
除了政治和犯罪之外，我们还需要考虑一个现实与虚构难以区分的世界的存在意义。在世界经济论坛的同一份报告中，研究人员预测，到 2026 年，多达 90% 的在线内容可能是综合生成的。这就引出了一个问题：当我们看到的几乎所有内容都是假的时，什么会成为信仰的障碍？
值得庆幸的是，我们仍然有理由对未来可能出现技术更先进的解决方案抱有希望。
对于人工智能生成的恶意内容和深度伪造，创新公司已经在研究以牙还牙的方法。早期结果显示出希望。事实上，我们已经看到公司为教育部门推出了此类解决方案，以便将提交的人工智能生成的文本标记为原始学生作业。因此，市场迟早会看到专门针对媒体行业的可行解决方案，使用人工智能立即可靠地检测人工智能生成的内容。
最终，人工智能的最大优势在于其识别模式并检测与这些模式的偏差的能力。因此，期望其他行业已经成型的技术创新将应用于媒体领域并不是没有道理的。由此产生的工具将能够分析数百万个参数的媒体，以检测合成内容中过于微妙的迹象。虽然人工智能生成的内容可能已经跨越了我们人类的恐怖谷，但在说服自己的同类时，可能还有一个更宽、更深、更危险的山谷需要跨越。
