智能体调查:七成担忧AI幻觉与数据泄露,过半不知数据权限
21世纪经济报道·2025-07-02 08:59
2025年,被称为"智能体元年"。这是AI发展路径上的一次范式突变:从"我说AI答"到"我说AI做",从对话生成跃迁到自动执 行,智能体正成为最重要的商业化锚点和下一代人机交互范式。 21世纪经济报道记者肖潇 北京报道 但越接近落地,风险也越有实感。越能干的智能体,越可能越权、越界,甚至失控。 结合调查问卷和行业访谈,本次《智能体体检报告》从最新发展状况、合规认知度、合规实际案例三个角度,试图回答清楚一 个关键问题:智能体狂奔之时,安全合规是否就绪了? 本篇观点速览 安全重要,但不着急。67.4%的业内受访者认为智能体的安全合规问题"非常重要",但优先级排不进TOP 3。 出错与泄露。70%以上的受访者最担心AI幻觉与错误决策、数据泄露问题。 信息差。大部分使用方并不实际掌握/不清楚智能体有哪些权限、能访问哪些数据(58%)。 当下哪一方声音占主流?不同产业角色是如何考虑这一问题的?行业是否存在一些共识?我们结合访谈和问卷调查,试图找到 一条认知水位线。 需要说明的是,虽然2025年被认为是"AI 智能体元年",但智能体尚未像通用大语言模型一样在各行各业被广泛使用。我们收集 的问卷来自已经实际落地的、行业核心 ...