11月24日,中国网通发布《关于开展“清浪·网络平台算法典型问题治理”专项行动的通知》(以下简称《通知》),相关工作方案的主要任务包括:重点整治同质化推动打造“信息茧房”、非法操纵上市前炒作热点、盲目追求利润侵害新就业劳动者权益等重点问题形式上,利用算法实施大数据“杀戮”,算法缺乏向上、良好的服务,侵害了用户的合法权益。督促企业深入开展自查整改,进一步提升算法安全能力。
此次《通知》的具体内容包括:一是深入整治“信息茧房”和诱发沉迷问题。严禁推送同质化程度高的内容诱导用户沉迷。不得强迫用户选择兴趣标签,不得在用户标签中记录违法有害信息并用于信息推送,不得超出内容推送范围收集用户个人信息。
二是提高榜单透明度和严厉打击榜单操纵行为,严格管控不法分子恶意利用榜单排序规则操纵榜单、炒作热点话题的行为。三要严防因盲目压缩配送时间而导致配送超时率、交通违章率、事故率上升等问题。四是严禁利用算法“杀死”大数据。五是强化算法向善服务,保障网民合法权益。六是落实算法安全主体责任。
《通知》发布的背景是,随着算法推荐模式的盛行,内容生产方式、传播媒介、运营模式、用户信息行为模式等都发生了变化,给网络舆论场带来了影响并引发网络舆论生态的挑战。 。
该《通知》对算法治理工作提出了具体目标,包括算法正确引导、公平正义、公开透明、自主可控、责任落实等。比如不得设立诱导用户上瘾、过度消费的算法模型;不得利用算法干扰信息呈现、影响网络舆情、规避监督管理;定期审查、评估和验证算法机制、模型、数据和应用结果等,正常开展算法安全自评估。
《通知》要求,自即日起至2025年2月14日组织本次专项行动,组织企业进行自查自纠。简单问题立即整改,复杂问题有明确的整改措施和期限。积极落实地方管理责任,对照《算法专项治理清单指引》(附件)深入开展企业自查自纠评估。对于自查不认真、整改不彻底的企业,我们将及时组织技术力量进行核查、督促整改。
同时,《通知》要求各地网信部门发挥协调作用,牵头开展专项行动。加强与当地电信、公安、市场监管等相关部门的协调,细化分工,压实工作职责。用好中央和地方各方面的有效技术支撑,积极有效推动各项任务落实,确保工作成果的取得。
目前,算法治理已成为行业共识,《通知》并不是行业第一次提出监管要求。复旦大学管理学院信息管理与商业智能系教授张成红撰文称,当算法决策或应用结果损害特定主体权益时,规则和原则不明确可能会导致算法决策或应用结果损害特定主体权益的风险。福利减免不足;滥用或误用算法也是一种潜在风险 算法产生的决策效果可能会破坏社会正义和社会凝聚力。因此,我们迫切需要对人工智能算法进行有效治理。
2021年9月,《关于加强互联网信息服务算法综合管理的指导意见》发布; 2021年11月19日,《互联网信息服务算法应用自律公约》发布; 2021年12月31日,发布《互联网信息服务算法推荐管理规定》;2024年7月11日,发布《互联网信息服务算法推荐合规自律公约》。
同时,算法的复杂性使得算法治理不可能一蹴而就。清华大学人工智能国际治理研究院副院长、人工智能治理研究中心(清华大学)主任梁正表示,算法治理面临多重挑战,其中包括技术固有的“黑匣子”。特点,即随着模型越来越复杂、数据越来越多样化,算法的不可解释性和不可控性往往会增加。
其次,梁峥认为,效率与公共利益最大化之间的权衡是算法治理需要考虑的重要一环。以及缺乏独立专业的第三方机构和成熟统一的算法合规审计评估标准,也是当前国内算法治理的困境。很多平台都独立做相关工作,但平台能否充分承担相应责任,无论是意愿还是能力都值得商榷。
张成宏认为,AI算法治理至少要包括三个层面。一是算法治理的政策法规,由国家行业主管部门制定并提供指导;二是算法合规审计,根据法律法规或行业要求对企业进行检查和监督,可以由企业内部完成。 ,也可能要求行业或者国家设立专门的监管机构来做;第三,开发合规合法的人工智能算法需要开发者和算法工程师。
工信部信息通信经济专家委员会委员盘和林告诉记者,算法推荐并不适用安全港原则,不能简单地利用这一原则来封闭自身的算法规则机制。此前,法律已要求各大平台有责任记录平台数据收集和算法。 。通过举报推荐算法,监管部门将审查算法的合理性。
对于本次《通知》对行业算法治理的影响,潘和林告诉记者,本次通知发布后,行业将采取一轮具体行动。单纯依靠平台自查是行不通的。第三方机构和成熟统一的评价标准可能会在本指导文件发布后逐步完善。这个过程需要时间,需要政府配置相关人才和其他资源。