发布信息

心智对话:3月27日曾毅回忆基辛格访华提及AI安全对话

作者:软荐小编      2025-03-31 15:03:00     92

3 月 27 日,观察者网与中国互联网治理论坛(中国 IGF)一起举办了最近一期的科创类谈话节目《心智对话》,该节目的主题是“AI 与国运:在技术跃迁、产业革新的背景下进行全球治理”。

中国科学院自动化研究所的研究员曾毅提到了他与已故美国前国务卿基辛格的一段交流。曾毅是人工智能安全与超级对齐北京市重点实验室的主任,同时也是联合国人工智能顾问机构的专家。在对话中,曾毅提及了这段交流。

中国科学院自动化研究所的研究员曾毅,他是人工智能安全与超级对齐北京市重点实验室的主任,同时也是联合国人工智能顾问机构的专家,其与观察者网相关。

曾毅回忆,在基辛格最后一次访华时,他曾询问中方对 AI 安全是否足够重视。曾毅提出,美方团队可以先列出 3 个 AI 安全风险,然后他的团队再列。当曾毅方面也列出 3 个不重复的风险后,基辛格赞叹道,你们说得很好,并且表示看来并非美国的技术发展在前,对安全的认知就一定走在中国前面。

曾毅解释,他国关注中方对技术安全的认知,其原因是基于共护安全、共享发展的逻辑。安全是能力建设的重要维度,这一维度与发展的能力、应用的能力同等重要。

他表示,对 AI 的治理不会对其发展进程产生影响。它是以护航者的角色,防止 AI 出现“野蛮生长”的情况。同样地,重视 AI 安全也不会对其发展造成影响。

曾毅认为,“平衡安全和发展”这种说法存在问题。他觉得“平衡意味着相互掣肘,仿佛是在说,要是注重安全,那么发展就必然会受到阻碍。”

但是曾毅团队近期进行了实验,人工智能大模型能够在几乎不影响问题解决正确率的情况下,把安全属性提升 20%-30%。

如果是真正的发展,那么治理安全会推动这种稳健的发展;倘若你觉得受到了治理的影响,或许那本身就是一种野蛮的尝试。曾毅表示。

相关内容 查看全部