大模型技术发展趋势 - 大模型技术在智能体、多模态、开源等领域持续创新，成为全球共同发展方向 [1] - 大模型产业应用进入深水区，正在重塑全球产业格局与生态，需关注真实效果与实际价值 [1] - 7月28日上海举办"大模型智塑全球产业新秩序论坛"，聚焦前沿产业突破与垂直领域应用实践 [1] 中国信通院与政府战略部署 - 中国信通院作为国家智库，通过深化研究、完善基础设施、参与国际治理三方面推进大模型产业高质量发展 [1] - 上海徐汇区贯彻"建成全国人工智能高地"战略，已形成产业链创新闭环，未来将加速构建大模型产业生态体系 [1] 行业合作与倡议发布 - 中国信通院联合10家机构发布"大模型开源安全倡议"，提出构建安全标准体系、保障开源要素安全等四点倡议 [2] - 上海人工智能实验室等联合发布《终端智能体安全（2025）》，提出全方位安全防护体系，推动智能体应用安全发展 [2] 论坛组织与支持 - 论坛由世界人工智能大会组委会指导，中国信通院主办，多家单位协办和支持，打造大模型行业顶尖盛会 [3]

AI眼镜与终端智能体发展现状 - AI眼镜被视为继手机之后的下一代智能终端，具备捕捉人脸、行为轨迹、环境影像等功能，但隐私泄露风险突出，尤其在数据采集、处理、传输环节存在窃听、篡改风险 [1] - 2025年AI大模型加速下沉，智能体渗透至手机、眼镜、耳机、车机等终端设备，重新定义生活、工业、医疗、教育等行业的交互方式，例如Meta Quest 4 Pro实现毫米级手势识别，华为Vision Glass 2025支持眼动触发导航 [2] - 终端智能体从传统智能终端演进为"端侧"运行的新形态，技术变化带来体验边界突破，如荣耀Magic6 Pro的AI助手可基于用户行为自动推送登机牌、健康码等服务 [2] 终端智能体的安全挑战 - 终端智能体风险从数据泄露扩展至模型行为、身份伪造、环境感知误导、算法伦理等深层问题，例如智能眼镜易被用于无感知偷拍或数据中转攻击 [3][7] - 《白皮书》提出六大风险层级：设备层、数据层、模型层、端云协同层、接口层、业务层，细化至"用户身份""恶意prompt工程""权限滥用"等具体攻击路径 [7] - 模型层风险中，提示词诱导（Prompt Injection）攻击可通过构造输入诱导模型泄露内部逻辑或输出违法内容，智能座舱助手若误判疲劳状态可能引发真实空间安全风险 [7][8] 智能化演进的技术特征 - 智能化深度从移动APP简单赋能力演进至AI原生，交互从单模态升级为多模态及空间智能，服务模式从用户被动服务转向主动服务 [5] - 场景复杂性从单场景服务扩展至全场景任务编排，连接宽度从单一APP完成任务发展为跨应用复杂协同，实现设备与物理世界、智能体之间的广泛连接 [5] - 跨设备多智能体协同带来信任、身份、安全问题新挑战，如链路不可信、授权不可信、身份流通困难，以及全面连接导致的数据传输风险敞口扩大 [6] 行业安全解决方案与生态建设 - 《白皮书》提出三大防护路径：单智能体安全（安全护栏、数据去毒）、多智能体可信互连（可信数据流转、身份认证）、AI终端安全（可信隐私沙箱、跨设备连接） [8] - 蚂蚁集团在Rokid Glasses、小米AI眼镜中应用可信交互服务技术，升级"蚁天鉴"大模型安全解决方案，新增智能体安全评测四大功能 [9] - IIFAA联盟推出智能体可信互连技术ASL，构建智能体间可信连接、运行时安全保护、业务安全防护三大核心能力，覆盖MCP、A2A等通信协议 [10]

在今年的上海世界人工智能大会（WAIC）上，终端智能体加速落地应用引发行业关注。然而，广泛的连接性和复杂架构为终端智能体安全带来新的挑战与 问题。加快终端智能体安全研究并构建全方位防护体系，成为保障大模型产业与智能体应用健康发展的迫切需求。 智能体正在向终端延伸。智能体在各类应用中展现出更强的泛化与适应能力，从功能方面来看，呈现出从单一任务逐步拓展至编程辅助、社会互动、经济治 理等复杂场景。 7月28日，由上海人工智能实验室、中国信通院、蚂蚁集团、IIFAA互联网可信认证联盟四家单位联合撰写的《终端智能体安全（2025）》报告在WAIC 的"大模型智塑全球产业新秩序论坛"上发布，呼吁加强终端智能体安全研究，构建全方位、多层次的安全防护体系。 这一架构中，各个智能体既保持自身独特的功能属性，又通过标准化的通信、协作机制紧密连接，形成有机协同的整体。通过实时信息共享，智能体得以打 破信息孤岛，获取更全面的任务信息；借助科学的任务分配机制，系统能够根据各智能体的能力特长，实现资源的最优配置；在共同目标的驱动下，智能体 间相互配合、协同决策，完成单个智能体无法独立承担的复杂任务。 复杂任务场景对智能体系统提出了更高维 ...