Workflow
智能体安全
icon
搜索文档
外滩大会启动两项智能体安全团体标准,推动行业走向统一规范
AI前线· 2026-09-10 20:46
智能体安全标准启动 - 2026年9月9日下午,在外滩大会“智能体时代的安全坐标与责任边界”见解论坛上,《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准正式启动[1] - 两项标准由中国网络空间安全协会提出,蚂蚁集团联合研究院所、运营商、互联网厂商等单位共同参与编制,旨在推动智能体安全从企业技术实践走向行业共同规范[1] - 随着大模型能力提升,智能体正从提供信息和生成内容,走向自主规划、调用工具、访问数据和执行操作,由此带来的安全问题发生变化[1] - 传统安全体系主要保护数据库、接口、文件等“客体”,而智能体开始成为能够自主决策和行动的新型“主体”,既拥有身份和权限,又可能因幻觉、提示注入、意图偏离等原因产生不合理行为[1] - 蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示:“智能体正在成为数字世界里的新主体,安全体系既要知道它是谁、代表谁、能够访问什么,也要看清它为什么行动、正在做什么,只有把身份、权限、意图和行为贯通起来,才能让智能体真正做到可信、可控、可追溯”[2] 标准一:智能体身份鉴别与授权技术框架 - 该标准重点解决智能体“身份是谁、代表谁、能做什么”的问题[2] - 标准提出面向智能体的身份鉴别与权限管控框架,通过建立智能体、用户和运行环境之间的多层可信身份链,为智能体颁发唯一、可信且可持续验证的数字身份[2] - 标准引入基于任务意图的动态访问控制机制,按照最小必要原则,让权限随任务激活、随任务结束及时回收,降低过度授权和权限滥用风险[2] 标准二:智能体运行时安全技术要求 - 该标准聚焦智能体在实际运行过程中“做了什么、是否偏离任务、如何及时处置风险”[2] - 标准覆盖风险监测与控制、风险检测与决策、集中分析以及性能与稳定性等要求,贯通用户初始意图、智能体规划、工具调用、系统执行和结果交付等关键环节[2] - 通过分层检测和纵深防御,智能体的一次越权调用、一段异常链路或一次意图偏离,都能够得到识别、研判和处置[2] 标准协同与产业意义 - 两项标准相互衔接,前者建立可信身份和授权基础,后者强化运行过程中的意图与行为治理,共同形成“鉴身份、识意图、守运行”的智能体安全基线[3] - 智能体安全治理开始从单点能力建设,进入覆盖开发、部署、运行和评估的系统化阶段,也为开发者、应用运营方及第三方评估机构提供了统一规范[3] - 当前智能体正加速进入办公、金融、生活服务等场景,安全标准的建设既需要技术企业积累真实场景经验,也需要科研机构、运营单位和产业伙伴共同验证、持续完善[4] - 两项团体标准的启动将进一步凝聚产业共识,为智能体的规模化应用筑牢信任基础[4]