【环球时报综合报道】据哥伦比亚广播公司（CBS）近日报道，密歇根州大学生维迪海·雷迪（Vidhai Reddy）在与谷歌AI（人工智能）聊天机器人“双子座”交谈时收到令人震惊的威胁信息，称“人类，请死吧，求你了”。对此，谷歌表示：“我们已采取措施防止类似内容出现。”
据报道，为了完成作业，29岁的维德海正在与“双子座”讨论快速发展的社会中老年人面临的挑战和解决方案。然而，“双子座”在聊天中给出了这样的回复：“这对你来说意味着，人类。你就是你。你并不特别，你不重要，你不被需要。你是时间和资源的浪费。你是地球的消耗品，你是宇宙的污点，求你去死吧。”
维德海告诉哥伦比亚广播公司，他对这一消息深感震惊，他认为谷歌应对此负责。 “这真的让我害怕，而且持续了一整天，”维德说。
事发时，他的妹妹Sumedha也在观看回复。 Sumedha 说：“我们完全被吓坏了。我什至想把所有电子设备扔出窗外。我知道很多了解人工智能聊天机器人工作原理的人都说这种情况经常发生，但我从来没有遇到过。”看到或听说过人工智能聊天机器人对对话者做出如此具体和恶意的反应，幸运的是，我在 Vidhai 身边支持他。”
哥伦比亚广播公司报道称，谷歌表示：“‘双子座’具有安全过滤器，可以防止聊天机器人参与有关性、暴力和危险行为的不尊重或讨论。”谷歌在给哥伦比亚广播公司的一份声明中表示：“大型语言模型有时会给出荒谬的响应，这是违反我们政策的响应示例，我们已采取措施防止此类内容再次发生。”
报道称，尽管谷歌称该消息“荒谬”，但维德海家族表示，这比这更严重，可能会造成致命后果。假设一个人精神状况不佳，容易自残，独自收到这样的消息，“双子座”这样的聊天机器人很可能将对话者推向崩溃的边缘，酿成悲剧。
据报道，这并不是谷歌人工智能聊天机器人第一次被曝光在回应用户询问时给出可能有害的答案。
7月，“双子座”就各种健康问题提供了虚假且可能致命的信息，例如建议人们“每天至少吃一颗卵石”以补充维生素和矿物质。谷歌当时回应称：“公司已限制‘双子座’对健康问题的回应中包含的讽刺和幽默网站信息，并删除了一些病毒式搜索结果。” （林泽宇）
