Workflow
终端智能体成为安全新战场 “可不可信”迫在眉睫
21世纪经济报道·2025-07-28 18:33

AI眼镜与终端智能体发展现状 - AI眼镜被视为继手机之后的下一代智能终端,具备捕捉人脸、行为轨迹、环境影像等功能,但隐私泄露风险突出,尤其在数据采集、处理、传输环节存在窃听、篡改风险 [1] - 2025年AI大模型加速下沉,智能体渗透至手机、眼镜、耳机、车机等终端设备,重新定义生活、工业、医疗、教育等行业的交互方式,例如Meta Quest 4 Pro实现毫米级手势识别,华为Vision Glass 2025支持眼动触发导航 [2] - 终端智能体从传统智能终端演进为"端侧"运行的新形态,技术变化带来体验边界突破,如荣耀Magic6 Pro的AI助手可基于用户行为自动推送登机牌、健康码等服务 [2] 终端智能体的安全挑战 - 终端智能体风险从数据泄露扩展至模型行为、身份伪造、环境感知误导、算法伦理等深层问题,例如智能眼镜易被用于无感知偷拍或数据中转攻击 [3][7] - 《白皮书》提出六大风险层级:设备层、数据层、模型层、端云协同层、接口层、业务层,细化至"用户身份""恶意prompt工程""权限滥用"等具体攻击路径 [7] - 模型层风险中,提示词诱导(Prompt Injection)攻击可通过构造输入诱导模型泄露内部逻辑或输出违法内容,智能座舱助手若误判疲劳状态可能引发真实空间安全风险 [7][8] 智能化演进的技术特征 - 智能化深度从移动APP简单赋能力演进至AI原生,交互从单模态升级为多模态及空间智能,服务模式从用户被动服务转向主动服务 [5] - 场景复杂性从单场景服务扩展至全场景任务编排,连接宽度从单一APP完成任务发展为跨应用复杂协同,实现设备与物理世界、智能体之间的广泛连接 [5] - 跨设备多智能体协同带来信任、身份、安全问题新挑战,如链路不可信、授权不可信、身份流通困难,以及全面连接导致的数据传输风险敞口扩大 [6] 行业安全解决方案与生态建设 - 《白皮书》提出三大防护路径:单智能体安全(安全护栏、数据去毒)、多智能体可信互连(可信数据流转、身份认证)、AI终端安全(可信隐私沙箱、跨设备连接) [8] - 蚂蚁集团在Rokid Glasses、小米AI眼镜中应用可信交互服务技术,升级"蚁天鉴"大模型安全解决方案,新增智能体安全评测四大功能 [9] - IIFAA联盟推出智能体可信互连技术ASL,构建智能体间可信连接、运行时安全保护、业务安全防护三大核心能力,覆盖MCP、A2A等通信协议 [10]