你好,骗子,我是你的噩梦。
眼前这位善良的奶奶叫黛西。它没有真人的身体,却是反诈骗AI大师。
与传统的反诈骗宣传不同,Daisy不会提醒您小心上当受骗,而是从源头入手,对付骗子。
天上不会掉馅饼,但骗子会给你扔诱饵。
创造Daisy的初衷就是利用骗子的坚持来消耗骗子的时间,减少后者“抛出诱饵”的机会,从而更好地保护其他潜在的受害者。
应了那句话,真正的反诈骗胜利不是打败骗子,而是让诈骗变得不划算。
与其教一个人如何预防诈骗,不如浪费骗子的时间
Daisy 背后的开发者来自英国电信公司 O2。
O2 与 Vodafone、EE 和 Three 一起是英国最古老的四家电信运营商之一。 O2 的内部研究表明,67% 的英国人担心成为诈骗的受害者,四分之一的人每周都会经历某种程度的诈骗。
面对诈骗者带来的麻烦,O2也很头疼。
于是他们想出了一个绝妙的主意,那就是创造一个AI奶奶——Daisy,让它主动与骗子进行长达40分钟的通话。
这个方法有点牺牲别人,但是很实用。毕竟,折磨完骗子之后,骗子就没有时间去诈骗别人了。
黛西这个人物是一位慈祥的老奶奶,这反映了现实生活。老年人也是诈骗者最常见的目标群体。
在官方发布的演示中,黛西会在电话那头与骗子聊天,生动地分享她的爱好——织毛衣、谈论家里可爱的猫咪等等。
如果没有它,通话时间越长越好。
当涉及到银行卡账号/密码等重要信息时,这位AI奶奶也会凭空编造出来。她会一句话回应,但她不会明白一切,还会睁着眼睛说谎。
O2 欺诈部门负责人默里·麦肯齐 (Murray Mackenzie) 指出,黛西的作用是彻底扭转诈骗者的局面。
“通过让他们保持在线状态,我们巧妙地在‘游戏’中击败并超越了他们。”
在Daisy之前,其实已经有很多类似的工具诞生了。
据外媒《卫报》报道,澳大利亚麦考瑞大学的一个团队还开发了一款专门与电信诈骗犯“聊天”的AI机器人Apate。
当澳大利亚警方识别并截获电信诈骗电话时,会将其转接到“受害机器人”上。
创作者卡法尔还透露了阿帕特的诞生故事。当他和两个孩子在外面野餐时,他给诈骗电话的人讲了一个笑话。
后来他受此启发,开始思考如何用无意义的八卦消耗骗子的时间,从而防止他们欺骗更多的人。
我认为这样做的目的是愚弄骗子并浪费他们的时间,这样他们就无法与其他人交谈。
阿帕特还有上百种不同的身份,有的装作无知,有的说话像个老人,爱重复自己,主要是为了避免被骗子认出来。
简而言之,与其教一个人如何避免欺诈,不如浪费一个骗子的时间。
技术在不断升级,人类的判断永远是最后一道防线。
人工智能的快速发展为Daisy的诞生提供了绝佳的机遇。
Daisy 基于定制训练的大语言模型 (LLM) 构建,其工作原理与 Google Gemini Live 或早期版本的 ChatGPT Voice 类似。
简单来说,AI会转录来电者的声音,然后AI奶奶会根据预设的人物性格调整接听的风格和内容,最后再次转换成AI奶奶的声音:
1. 将语音转录为文本:将捕获的声音转换为文本的过程称为“转录”。这样,Daisy 就可以理解呼叫者所说的内容并准备适当的回应。
2. 生成响应:Daisy 使用自定义大语言模型 (LLM) 来生成响应。该模型不仅可以理解文本信息,还可以根据上下文和预设的角色个性层生成适当的响应。
3、人物性格层:“人物性格层”是指当Daisy产生回应时,会根据预设的人物性格调整回答的风格和内容,使其更加符合人物设定,比如善良并且像奶奶一样耐心。 。
4. 文本转语音:生成的文本响应需要再次转换为语音,以便 Daisy 可以通过电话与呼叫者进行交流。这个过程称为“文本转语音”(TTS),Daisy 使用定制的 AI 模型来完成此步骤。
而且,在训练过程中,黛西还得到了YouTube博主吉姆·布朗宁的帮助。
该博主在 YouTube 上拥有超过 400 万粉丝,是该平台上最有影响力的反诈骗者之一。他的视频不仅展示了欺诈技术,还通过详细的技术分析和示例揭示了整个欺诈行业的运作方式。
毕竟,最了解你的人永远是你的敌人,骗子也不例外。
在 Daisy 上与骗子交谈的整个过程都是实时完成的,从听语音、转录文本、生成文本到语音的响应,因此几乎没有明显的延迟。
然而,Daisy 并不直接可供 O2 用户使用。
原因很简单,O2担心用户利用它来报复骗子。其内部研究显示,71%的英国人曾想过对欺骗他们或他们所爱的人的骗子进行报复。
此外,据外媒Techspot报道,这款AI工具已被列入诈骗者常用的易受骗号码列表。 Daisy 每天 24 小时与呼叫者互动,无需人工干预。
但问题是现在骗子有两种,不懂AI的和懂AI的。
不久前,初创公司Bland AI在X平台上宣布,在大型模型的支持下,其产品将成为世界上最快的对话式AI,并且可以毫无“幻觉”地进行交流。
此外,Bland AI机器人还拥有极其自然的生成语音和多种语言切换。
除了善于模仿真实人类对话的语调和停顿之外,在外媒 WIRED 进行的技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并谎报自己的真实身份。
包括APPSO在内,零成本克隆一个语音只需要10秒。
随着人工智能技术的进步,这些工具很容易被犯罪分子利用来欺骗我们。
矛盾的是,手机的一端连接到了AI骗子,另一端连接到了AI Daisy。一个是夸奖,一个是调侃,双方无限循环。懂艺术的人都知道这里的道教有多么博大精深。
早些时候,智能手机系统已经相当复杂。
只需向服务提供商提出您的需求,后者即可快速搭建管理平台。通过简单的界面操作,用户可以设置语音技能、模板、通讯线路等参数。导入联系人信息后,即可启动自动外呼功能。
为此,国内手机厂商在这方面也做出了不少努力。例如,大多数国产手机系统都提供了智能识别和拦截伪基站的功能。
而且,您还可以在来电拦截设置中开启“在线识别未知号码”功能,让系统更准确地识别并拦截骚扰电话。
诈骗本质上是一场筛选游戏,骗子不在乎失败999次,只要成功一次就可以了。
被骗了,一切都归零。
诚然,欺诈手段不断变化,但以下官方反欺诈公式永远不会过时。
“人品(陌生人)+沟通(各种沟通工具,反正不能亲自见面)+请求(转账汇款,反正就是钱的事)=诈骗。”
AI时代,无论是骗子还是反欺诈技术都在升级,人类的判断永远是最后一道防线。
本文来自微信公众号“APPSO”,作者:APPSO,36氪经授权发布。