聪明的东西
作者程潜
编辑云鹏
智东西网12月19日报道 今天，国内首个智能安全生态协作组织“IIFAA智能可信互联工作组”宣布成立，中国信息通信研究院、荣耀、OPPO、小米、华为、智普、字节以上阿里巴巴、蚂蚁金服、京东、中国移动、高通等20家领先科技企业和单位为首批成员。
AI代理已经成为大模型行业玩家重点布局的赛道。苹果、荣耀、vivo等手机终端厂商的智能机身，智浦AI推出的AutoGLM，蚂蚁集团推出的AI生活管家“智小宝”等AI智能产品纷纷涌现，让用户可以与自然语言的设备或应用程序。交互快速实现订票、订餐、叫车、搜索附近吃喝玩乐等操作。
其中，多智能体系统协作时，会面临智能体如何连接、数据隐私与安全保护、用户意图数据共享等诸多问题。 IIFAA互联网可信认证联盟秘书长郑亮提到，代理之间的服务互联最终要完成用户指令，这涉及到意图数据的共享和传输、复杂任务的拆解等必要的过程。这些流程没有标准化。在没有限制的情况下，就像开车没有红绿灯一样，很容易滋生混乱。
未来，IIFAA智能代理可信互联工作组将围绕智能代理可信认证、可信服务调用、可信数据传输、用户隐私与权益保护等制定跨智能体交互的相关标准，为智能代理行业提供参考。为开发提供了更加规范、健康的协作环境。
对于目前促进代理可信互联的潜在技术路线，IIFAA互联网可信认证联盟技术总监万晓飞告诉智洞智，几个潜在的技术场景包括数据隐私流通中使用的匿名技术、代理服务之间的请求协作、可信流通客户端应用之间、代理协作之间的可信计算、分布式数字身份技术等。
1、每天新增2万~8万智能体，多智能体协作面临四大风险
信息通信研究院电话终端实验室信息安全部副主任付山表示，AIGC构建的新应用生态系统改变了交互方式、产品形态、产业生态。
在交互方式层面，人们已经被动接受了App开发逻辑，让机器适应人；在产品形态层面，AI智能体具备强大的智能感知能力，AI手机、AI可穿戴设备等纷纷涌现；在产业生态层面，超级应用、原生AIGC应用、终端+AIGC形态等。
同时，多个自主、交互、协作的Agent形成多Agent系统，可应用于智能制造、智能交通、救灾、智能物流、医疗等领域。也带来了诸多风险和挑战。
主要有四个风险。首先是AIGC的开发和应用过程涉及大量的个人信息处理活动。获取数据来源的方式包括主动抓取互联网数据和被动方式，无法有效追踪和验证个人信息的来源；二是训练数据中包含大量的用户个人信息，互联网上的公开数据成为训练源。数据脱敏和清洗过程中未有效识别并与个人信息关联的数据将面临泄露风险。三是大模型的错觉，输出数据不可信。不可追溯；第四，模型的黑盒算法无法验证。
付山提到，根据国内外主流智能座席平台的运营状况，平台平均每天可新增2万至8万名座席。在此背景下，就会存在隐私侵犯、数据过度收集、数据滥用、算法偏差、透明度不够、责任归属等风险。
以此为基础，信通院建立了保护生成式人工智能产品和服务用户权益的标准体系。针对数据获取与用户授权之间的矛盾，可以通过匿名化技术提高个人信息数据的可用性。
匿名技术可应用于端侧处理、大模型训练、公开报告等。匿名化技术确保数据仅在端到端场景中交互。它还可以将统计报告中的公共数据匿名化并公开发布。 。
2.多Agent协作案例GLM-PC，敏感信息操作经过用户两次确认
智普AI此前发布的GLM-PC就是多智能体协作的典型案例。
CogAgent是一个依靠视觉感知屏幕，进而获取屏幕上界面元素信息的模型。智浦AI训练了一个可以接受1120×1120分辨率图形输入的高分辨率编码器，从而通过多个交叉注意力和视觉语言解码器将高分辨率图像特征相互组合，共同输出最终结果。
新增与 GUI 界面元素的参考生成和参考理解相关的预训练任务。参考生成是指让模型根据屏幕截图和给定区域生成相关的自然语言描述。参照理解是指模型根据屏幕截图和自然语言生成相关的自然语言描述。语言描述计算所描述元素所在的区域。
这两个任务分别对应界面上的元素是什么以及界面上的元素在哪里。
智普AI从汽车、手机、电脑等不同分辨率、不同平台收集数百万张包含一级界面元素的截图数据，采用多尺度训练策略和多样化数据增强策略，提高CogAgent模型GUI理解能力使其能够准确识别界面上的图标、按钮和文本。
此外，为了提升CogAgent的模型能力，设计了目标拆解、远近规划、界面理解、任务执行、状态判断等一系列训练任务。
CogAgent的行为由两部分组成，模仿人类操作行为和LLM原生行为。这也包括它的三种训练理念，即被动模仿人类行为、互动学习、主动探索。
GLM-PC 是一种开箱即用的计算机代理。用户只需在文本框中输入任务内容并按回车即可。它可以自行启动计算机上所需的应用程序，像人一样按照指令执行一长串的跨应用程序操作，然后将最终的执行结果返回给用户。
安全方面，GLM-PC将进行即时通讯、文件发送、删除、清算、支付、转账、用户账户管理、密码输入等操作，供用户二次确认；代理的虚拟屏幕不能影响人类的使用。通过物理屏幕，用户可以在隐形屏幕上查看GLM-PC的工作状态；三是与智普AI在本地端侧模型探索、用户个人隐私数据预处理等方面的合作。
结论：AI智能体生态繁荣，可信互联工作组引领。
AI代理的能力正在不断增强。业内很多公司正在结合文本、图像、语音等模态数据，让智能体能够更全面地感知和理解环境，进而做出更准确、更接近人类的识别。智能决策和响应。例如，智浦AutoGLM可以自主执行50多步的长步操作，并且可以跨App执行任务，例如发送红包、查询和下外卖订单、购买食材等复杂任务。
可以预见，未来，AI智能体将极大改变人们与AI交互的方式。然而，在此背景下，用户数据隐私和安全、代理与不同系统和设备之间的交互和协作等挑战不容忽视。在此背景下，IIFAA代理可信互联工作组的成立或许可以为有效避免未来因缺乏统一标准而可能带来的恶意代理攻击等诸多风险提供可行的解决路径。
