2月8日,Google最近删除了其AI原则对“不开发武器的AI系统”的承诺,这一决定引发了广泛争议。 Google Brain的创始人兼前负责人Andrew Ng公开表示支持Google在旧金山举行的军事退伍军人企业家会议上的决定。
Ng在周四晚上的会议上对TechCrunch的舞台上采访时说:“我很高兴Google改变了自己的位置。”
本周早些时候,Google从其AI原理网页中删除了这一承诺。同时,Google发表了由DeepMind首席执行官Demis Hassabis撰写的博客文章,他强调,公司和政府应该共同努力创建可以“支持国家安全”的AI系统。
Google在2018年对“不开发武器AI”的承诺是由于当时公司内成千上万的雇员抗议“ Maven Project”(与美国军方的项目)有关。该项目涉及为军事项目提供AI技术来解析视频图像,该图像可用于提高无人机罢工的准确性。但是,NG当时对抗议者表示困惑。 “许多退伍军人愿意为国家牺牲血液并保护我们,那么美国公司如何拒绝帮助那些为我们而战的士兵?”尽管NG在Maven项目抗议活动中没有在Google任职,但他是Google AI和神经网络的主要推动者。如今,他领导着一个专注于AI的风险工作室和AI基金,并经常谈论AI政策。
NG还表示,他很高兴看到拒绝加利福尼亚的SB 1047法案以及拜登政府的AI行政命令的推翻,因为他认为这两项措施会阻碍美国开源AI的发展。他认为,我们AI安全的关键是确保美国在技术上与中国竞争,他还指出,AI无人机将“完全改变战场”。
IT Home注意到,Google内总是有差异关于AI在军队中的应用。梅雷迪思·惠特克(Meredith Whittaker)是Google的前AI研究员,现任Signal总裁,他在2018年对Maven Project进行了抗议活动。当Google决定不续签Maven Project合同时,她表示支持,认为该公司不应获得“不应获得”参与战争。”此外,前Google AI研究员兼诺贝尔奖获得者Geoffrey Hinton还呼吁全球政府禁止和规范AI在武器中的使用。 Google高级执行官,现在是DeepMind的首席科学家Jeff Dean还签署了一封公开的信,反对使用机器学习自动武器。
近年来,Google和Amazon因与以色列政府的“ Nimbus项目”的合同而受到了新的审查。该项目涉及为IDF提供云计算服务。去年,两家公司的员工组织了静坐抗议活动,以反对合作。
美国国防部首席AI官员此前曾表示,世界各地的军事力量越来越有兴趣使用AI。借助Google,Amazon等技术巨头,Microsoft投资了数亿美元的AI基础设施,许多公司希望通过与军方合作来弥补投资。