IT之家 11 月 27 日报道，谷歌前首席执行官埃里克·施密特 (Eric Schmidt) 近日在企业家、纽约大学教授斯科特·加洛韦 (Scott Galloway) 的播客中警告称，“AI 爱好者”日益流行。他特别指出，这些“完美”的人工智能女朋友或男朋友可能会给年轻人带来重大风险。
他说：“想象一个AI女友，不仅身体完美，而且在情感上与你完全兼容。这样的AI女友可能会深深吸引男人，甚至完全占据他们的心智。”他进一步警告说，这种人工智能女友可能会深深地吸引男人。心智不成熟的人尤其容易出现痴迷。
施密特指出，依赖“AI爱好者”可能会让年轻人更加孤独，并可能对社会问题产生进一步影响。节目中，加洛韦提到，“人工智能爱好者”是否会加剧极端主义或厌女症，是一个需要关注的问题。施密特补充说，许多家长对孩子接触网络内容的控制有限，他说：“当 12 或 13 岁的孩子使用这些工具时，他们可能会接触到世界上的善与恶，但他们不会”还没有消化的能力。”
据IT之家此前报道，今年10月，美国一名14岁男孩自杀。他的母亲梅根·加西亚(Megan Garcia)表达了她对聊天机器人平台Character.AI的不满，其创始人诺姆·沙泽(Noam Shazer)和丹尼尔·德·弗雷塔斯(Daniel·De Freitas)和谷歌提起了诉讼。
这些指控包括非正常死亡、疏忽、欺骗性贸易行为和产品责任。投诉称，Character.AI 平台存在“不合理的危险”，并且在向儿童营销时缺乏安全预防措施。
14 岁的 Sewell Setzer III 去年开始使用 Character.AI，并与基于《权力的游戏》角色的聊天机器人进行互动，其中包括丹妮莉丝·坦格利安（Daenerys Targaryen）。 Setzer 在去世前几个月与机器人聊天，并于 2024 年 2 月 28 日最后一次与机器人互动“几秒钟后”自杀身亡。
起诉书指控 Character.AI 平台拥有“拟人化”人工智能角色和聊天机器人，提供“未经许可的心理治疗”。该平台拥有专注于心理健康的聊天机器人，其名称包括“治疗师”和“你感到孤独吗？” Sezer 与他们进行了互动。
