Workflow
智能体不断进化,协作风险升高:五大安全问题扫描
21世纪经济报道·2025-07-03 08:36

本篇观点速览 尽管在安全问题上业内有不同的声音,但这并不是一个狼来了的故事。业内也有普遍共识:智能体的可 控性以及可信度是考量智能体的重要指标,安全合规问题也是普遍认同的重要问题。 从起源和性质的角度来看,智能体风险被分类为内在和外在安全威胁:内在安全源于智能体核心组件的 漏洞;外在安全源于智能体与外部协议、工具、环境的交互。 大模型是智能体的"大脑",即智能体的核心决策组件。在智能体的环境中,大模型本身固有的漏洞往往 会被放大,这是因为这些模型需要在动态的现实环境中运行,而在这些环境中攻击者可能会利用各种弱 点。 21世纪经济报道记者 王俊 肖潇 北京报道 2025年,被称为"智能体元年"。这是AI发展路径上的一次范式突变:从"我说AI答"到"我说AI做",从对 话生成跃迁到自动执行,智能体正成为最重要的商业化锚点和下一代人机交互范式。 但越接近落地,风险也越有实感。越能干的智能体,越可能越权、越界,甚至失控。 结合调查问卷和行业访谈,本次《智能体体检报告》从最新发展状况、合规认知度、合规实际案例三个 角度,试图回答清楚一个关键问题:智能体狂奔之时,安全合规是否就绪了? 二是"视觉路线",其可以绕过接口授权 ...