智能体向更多终端延伸,隐私保护如何跟上?
第一财经·2025-07-28 18:15
在今年的上海世界人工智能大会(WAIC)上,终端智能体加速落地应用引发行业关注。然而,广泛的连接性和复杂架构为终端智能体安全带来新的挑战与 问题。加快终端智能体安全研究并构建全方位防护体系,成为保障大模型产业与智能体应用健康发展的迫切需求。 智能体正在向终端延伸。智能体在各类应用中展现出更强的泛化与适应能力,从功能方面来看,呈现出从单一任务逐步拓展至编程辅助、社会互动、经济治 理等复杂场景。 7月28日,由上海人工智能实验室、中国信通院、蚂蚁集团、IIFAA互联网可信认证联盟四家单位联合撰写的《终端智能体安全(2025)》报告在WAIC 的"大模型智塑全球产业新秩序论坛"上发布,呼吁加强终端智能体安全研究,构建全方位、多层次的安全防护体系。 这一架构中,各个智能体既保持自身独特的功能属性,又通过标准化的通信、协作机制紧密连接,形成有机协同的整体。通过实时信息共享,智能体得以打 破信息孤岛,获取更全面的任务信息;借助科学的任务分配机制,系统能够根据各智能体的能力特长,实现资源的最优配置;在共同目标的驱动下,智能体 间相互配合、协同决策,完成单个智能体无法独立承担的复杂任务。 复杂任务场景对智能体系统提出了更高维 ...