南财发布《智能体体检报告——安全全景扫描》全文
21世纪经济报道·2025-07-11 08:04
智能体行业发展现状 - 2025年被称为"智能体元年",AI发展路径出现范式突变,从对话生成跃迁到自动执行,智能体成为最重要的商业化锚点和下一代人机交互范式 [1] - 垂直智能体领域发展迅速,编程场景已诞生年经常性收入(ARR)突破5亿美元的产品 [3] - 智能体应用场景快速扩张,从AI手机到AI浏览器,正在接管日常入口 [4] 智能体技术特征与评价标准 - 容错性与自主性是划分智能体价值象限的关键指标,具备更强自理能力的智能体发展前景更佳 [5] - 智能体协作是实现落地的关键环节,但相关安全风险问题尚未解决 [9] 行业认知与合规现状 - 行业普遍认同智能体安全合规重要性,但优先级未进入前三名 [6] - 智能体广场(应用商店)的安全监测体系和标识系统尚不完善 [8] - 多工具调用场景存在用户数据流向和责任分配等潜在问题 [10] 行业主要风险关注点 - AI幻觉(错误输出)和用户数据泄露是业内最关心的两大风险 [7] - 当前市场存在概念混乱现象,需警惕将自动化软件或对话助手包装成智能体的行为 [2]