发布信息

2024 世界顶尖科学家论坛聚焦关键领域,探讨 AI 治理框架与算法偏见风险

作者:软荐小编      2024-10-27 15:02:17     158

10月27日,2024世界顶尖科学家论坛进入最后一天。本届论坛聚焦生命科学、智能科学、物理科学等重点领域的最新趋势和重大突破。

智能科学大会聚焦如何推进算法世界的AI治理框架。中国新一代人工智能发展战略研究院执行院长、先进计算与关键软件(新创)海河实验室主任龚克教授指出:“今天,人工智能的发展达到了前所未有的水平。在这种情况下,治理能力建设必须跟上。”

2024年世界顶尖科学家协会“智能科学或数学奖”获得者、康奈尔大学计算机科学与信息科学讲座教授乔恩·克莱因伯格表示,算法领域的偏见可能会产生长期而微妙的影响。影响决策的风险。

_顶科智能科学大会聚焦AI治理,制药和自动驾驶商业价值最大_顶科智能科学大会聚焦AI治理,制药和自动驾驶商业价值最大

近三十年来,克莱因伯格一直是情报科学领域的领军人物之一。他的研究涵盖从计算机网络路由到数据挖掘再到生物结构比较等领域。

他告诉第一财经记者:“人工智能算法的一致性是人类很难做到的。算法可以做决策,也可以分配资源。如果你给它一个目标,它就能非常有效地执行。”

不过,他也强调了AI算法带来的伦理问题。 “第一个是算法的公平性,第二个是敏感信息的处理,因为机器学习和人工智能背后有大量的数据,”他说。

2007年图灵奖获得者、国际嵌入式系统研究中心Verimag实验室名誉研究主任约瑟夫·西法基斯认为,由于人工智能系统缺乏可解释性并依赖于感官或语言数据,因此无法提供同等水平的可信度保证作为传统系统。

在智能科学大会案例研讨会上,荣获今年诺贝尔化学奖的蛋白质折叠技术再次引发热议。复旦大学复杂系统与多尺度研究院院长马建鹏教授表示:“未来结构生物学家基于经验的实验技术,加上AlphaFold人工智能技术,可以大大提高工作效率,但依靠仅靠AI不足以开发成功的药物,AI只能辅助药物的开发。”

人工智能药品的需求正在经历爆炸性增长。深圳计算科学研究所首席科学家范文飞认为,人工智能需要“两条腿走路”——逻辑推理和机器学习。 “结合逻辑推理和机器学习的人工智能已经开始应用于现实。”范文飞解释道,“比如在药物发现方面,早期的药物发现,特别是药物靶点的识别,通常会受到患者数据缺乏的困扰。但利用人工智能的逻辑推理和机器学习的结果已经得到专业医学实验室的认可。”

国家超级计算无锡中心主任杨光文教授表示,随着人们对计算能力的认识越来越深入,计算机辅助药物筛选和设计已经变得非常普遍。还可以发展到临床试验和病理分析,提高药物研发效率。速度和质量。

“人工智能的发展离不开算力和软件生态。近年来,我国在算力方面提出了很多新的需求和政策,包括计算从东到西、算力平台、智能计算创新等大型央企、互联网企业都投入算力中心建设,但要真正利用算力,必须与生态应用相结合。”杨光文表示。

科技大亨马斯克正在将特斯拉打造成一家人工智能机器人公司。他预计,未来所有特斯拉汽车都将具备自动驾驶能力。特斯拉推出了自动驾驶出租车(Robotaxi),计划于 2026 年开始生产,最终每年生产 200 万辆汽车。

据报道,特斯拉的自动驾驶出租车Cyber​​cab的运营成本为每英里20美分,使用感应充电器,不需要任何插头。他们还将仅依赖摄像头和人工智能,而不需要机器人出租车玩家使用额外的硬件。这可以显着降低公司生产自动驾驶出租车的成本。

国内自动驾驶公司小马智行联合创始人楼天成在研讨会上分享了人工智能在自动驾驶领域的应用。他表示:“Robotaxi是自动驾驶领域最难的挑战,我们为什么要做?因为AI在出行领域的应用将是最具发展潜力、最大价值的应用之一。”

楼天成表示,虽然从外界看来,自动驾驶从2018年开始似乎进入了缓慢发展期,没有太大进展,但实际上最关键的进展是很难被直观感知的。 “事实上,在过去的三四年里,自动驾驶的安全性提高了10倍,自动驾驶的无事故率从1000小时提高到10000小时,但外界确实看不出有多大区别。这是我们在自动驾驶方面最痛苦的事情。”他说。

相关内容 查看全部