AI Tycoon Hinton生气地批评了英国和美国无视AI安全,并认为Vance在巴黎峰会上完全是胡说八道,并且根本不了解AI的危险。他认为,人工智能可以使人类受益,但是人工智能必须是安全的,否则人类可能会面临灾难!
在巴黎AI行动峰会上,美国副总统万斯拥有“美国第一”的旗帜,并明确表示,美国仍将在AI领域保持其统治地位,并且欧洲对AI的监管正在杀死创新!
会议结束后,美国和英国拒绝签署有关确保AI“安全,可靠和可信”的峰会声明,并拒绝了相关的国际承诺。
La Repubblica专门报道了诺贝尔奖获得者Hinton,AI“教父”,并激烈批评了这种行为。
欣顿:“没有限制,人工智能将是一种可怕的武器。华盛顿与科技巨头建立了危险的联盟。”
欣顿:万斯胡说八道
杰弗里·辛顿(Geoffrey Hinton)是77岁的AI“教父”,也是图灵奖和诺贝尔物理奖的获奖者,他在全球范围内以其深度神经网络的基础研究而闻名。
关于美国副总统万斯在峰会上的讲话,他认为这是胡说八道:
我听了万斯的讲话。我认为这是荒谬的胡说八道,表明他对AI的危险一无所知。
万斯犯了一个错误,即如果有监管,它将杀死AI。不,法规不会杀死AI。许多有益的AI应用程序继续发展。我们需要开发AI,但是我们必须确保安全。
现任美国政府对安全问题无动于衷,并与大型科技公司结盟。
在声明中,万斯基本上威胁到其他国家:如果他们试图调节和干预美国技术,这将使它们付出代价。
尽管欣顿没有推测其背后的政治原因,但英国不再假装关心如何确保AI安全。
一年半前,是英国在Bletchley Park举行了首次峰会,目的是进行监督。
Bletchley声明|为了全人类的利益,人工智能应确保安全,以人为导向,值得信赖和负责任
此外,英国还通过了一项法律,要求对科技巨头进行严格的内容监督。这种变化确实非常突然和怪异。
英国甚至更名为国家科学研究机构AI安全研究所,并删除了与AI的“不平等结果”有关的内容。欧洲媒体称其为英国与万斯的曲调跳舞。
AI安全性不容忽视
多伦多大学的欣顿办公室回答说,他警告了世界多年来,不要忽略AI缺乏监管的危险。
在他看来,将潜在的破坏性工具移交给全球无序的使用意味着将人类处于危险之中,并可能导致人类灭绝。
实际上,欣顿(Hinton)从未排除与电影“终结者”类似的场景,在该场景中,不可阻挡的AI掌管并开始攻击人类。
尽管有所保留,但这次,欣顿承认AI应该以安全的方式发展:
AI在许多领域(例如医学和环境)非常有用。
当然,应该开发它。但是它必须以对人类安全的方式开发。
这正是美国副总统万斯似乎根本不必担心的。
美国政府与硅谷之间的联盟使欣顿非常不满意和非常不安。他说,对AI安全的这种无知在短期和长期内都会产生极大的后果:
在短期内,越来越多的罪犯将使用AI对我们的基础设施发动网络攻击。有关在线操纵的新闻将传播。人们的意见也将被操纵。
从长远来看,AI可能会在某个时候控制一切,而人类将遭受极大的痛苦。
当被问及他如何看待马斯克和Ultraman在Openai上的斗争时,Hinton说,尽管他几乎不同意Musk所说的几乎所有内容,但他在此事上同意Musk:
Openai应保持非营利性,而不是成为一家有利可图的公司。
参考:
本文来自作者:Xin Zhiyuan的微信公共帐户“ Xin Zhiyuan”,由36KR发表并授权。