首个智能体安全生态协作组织成立推动多智能体可信协作

发布时间：2024-12-27 09:34

定期组织的小组活动能促进团队协作和个人成长。 #生活乐趣# #生活日常# #个人成长建议# #兴趣小组活动#

科技日报记者崔爽

12月19日，国内首个智能体安全生态协作组织——“IIFAA智能体可信互连工作组”（以下简称“工作组”）成立，工作组致力于推动行业共同制定跨智能体交互的相关安全技术规范，以应对智能体高速发展所带来的安全协作挑战，共建开放、合作、共赢的智能体生态。中国信通院、荣耀、OPPO、小米、华为、智谱、字节、阿里、蚂蚁、京东、中国移动、高通等二十余家单位和科技企业成为工作组首批成员。

工作组由IIFAA互联网可信认证联盟发起成立。据了解，该联盟成立于2015年，致力于可信身份认证等工作，拥有300多家成员单位。

近年来，手机终端、大模型及App厂商纷纷推出“AI管家”等智能体产品，用户可以与设备或APP进行自然语言交互，实现订票、点餐、打车等操作。其中包括以苹果、荣耀、vivo等为代表推出的手机厂商系统智能体，以及以蚂蚁集团推出的AI生活管家“支小宝”、智谱AI推出的AutoGLM等为代表的AI智能体产品。

通过共享感知数据和任务协调优化实现智能响应，多个智能体协同工作，可以为用户提供丰富的功能体验。比如，用户通过手机上的语音助手说“我想听周杰伦的歌，顺便帮我点个附近的披萨外卖”，语音助手智能体识别用户指令后，会调用音乐播放智能体和外卖智能体。

“对用户而言，一条指令，往往会涉及多个App智能体产品，而智能体之间的打通很难，如何在端上实现多智能体间的可信互连，成为智能体发展中至关重要的问题。”中国信通院泰尔终端实验室信息安全部副主任傅山在现场表示，“目前行业还在初期阶段，新技术给用户带来便利的同时，也隐藏着安全风险。”

IIFAA联盟秘书长郑亮指出，智能体之间的服务互联最终要完成用户指令，这中间涉及到意图数据的共享传递和复杂任务拆解等必经流程，这些流程在没有规范约束的情况下，就像开车没有红绿灯，非常容易滋生乱象。事实上，即使现在处于多智能体发展早期，已经出现了诸多问题。“黑灰产有时对新技术的掌握速度比防御方更快。我们不能在问题出现后再开始讨论秩序，这也是这个工作组存在的必要性。”郑亮认为，智能体之间需要开放协作，也需要共建安全互信的行业规范。这对行业长远健康发展有重要意义。

在此背景下，IIFAA互联网可信认证联盟正式成立“IIFAA智能体可信互连工作组”，希望通过制定跨智能体交互的相关标准等形式，为智能体行业发展提供更加规范健康的协作环境。目前，工作组成员由手机终端厂商、硬件厂商、应用开发商以及相关监管机构等成员组成。

“接下来，工作组将围绕智能体可信认证、服务可信调用、数据可信流转、用户隐私与权益保护等方向，建设智能体可信互连行业规范，推动行业安全、健康发展。”工作组技术总监张璇介绍。

网址：首个智能体安全生态协作组织成立推动多智能体可信协作 https://www.yuejiaxmz.com/news/view/581886

上一篇：年末焕新大屏电视，同档Mini

下一篇：当一个女生和AI谈起了恋爱……