文章核心观点 - AI正从“聊天机器人”向“行动式智能体”进化，能接管操作系统、自主调用API，引发对安全的新担忧[1][2] - 智能体安全是AI下半场最具挑战的赛道，是智能体经济规模化落地的必经之路，行业思维需从“能力优先”转向“信任优先”[3][4][50] - 江苏通付盾公司提出了一套前瞻性的三层智能体安全框架，并已在其“大群空间”多智能体协同平台中落地[4][5][54] 智能体安全的重要性与挑战 - AI正从技术突破转向大规模应用，在能源、金融、制造等重点领域落地，安全问题日益受重视[8] - 智能体安全应从一个技术子课题，上升为决定产业智能化成败的核心前提与价值基石[9] - 智能体是包含数据、算力、算法到业务场景的全链路复杂系统，其安全需要体系化建设[10] - 面对能自主决策的智能体，传统“打补丁”式的安全思维已失效，需采用“内生安全”与“零信任”相结合的新设计哲学[2][13] 通付盾的智能体安全三层框架 基础层安全：可信算力与数据 - 核心是算力安全与数据安全，确保智能体“躯体”可靠与数据纯净[12] - 节点化部署：将算力网络分解为一系列分布式的、具有独立可信执行环境的安全节点，通过区块链等可信账本技术连接，实现从“信任中心”到“验证过程”的转变[17][19][20] - 数据容器：是保障数据主权与隐私的核心载体，内嵌数据使用策略，遵循“数据不动算力动”原则，通过可信执行环境或隐私计算确保数据“可用不可见”[21][22][23] - 构建协同网络：结合节点与数据容器，形成多节点协同式的价值网络，使智能体可以安全地跨节点发现、调度和协同[25][27] 模型层安全：可信算法与超级智能对齐 - 核心是算法安全和协议安全，赋予智能体可验证的理性与对齐的价值观[12] - 目标是确保AI的目标和行为与人类的价值、意图和利益保持一致，即“超级智能对齐”[28][29] - 形式化验证：将模糊的安全需求转化为精确定义的形式化逻辑规约，对智能体核心决策逻辑进行数学上严谨的验证，以证明其行为不会违反安全规约[33][34] - 形式化验证通过划定明确的安全边界来应对“智能体不完备定理”，提供“可组合的安全保障”[35][36] - 形式化验证也应用于后量子安全密码的设计与实现，为智能体基础设施提供抗量子攻击的密码学根基[37][38][39] 应用层安全：可信应用与智能风控 - 核心是智能体安全运维与业务风控，为智能体在真实世界中的“行为”套上动态、精准的约束[12] - OpenClaw、Moltbook等“行动式”智能体流行，能深度集成操作系统权限、调用外部API，暴露了传统基于规则的风控模式无法应对的新威胁[41][43] - 具体威胁包括通过“提示注入”诱导智能体越权操作，以及脆弱的插件供应链成为恶意代码注入渠道[44][53] - 通付盾构建了基于本体论的智能体安全风控平台，将领域知识转化为机器可理解的“数字世界语义地图”，即动态生长的业务安全知识图谱[45][46] - 该平台能实时解读每个智能体的行动意图，进行动态关系推理与安全审查，实现从表面行为匹配到意图与上下文合规性判断的跃升[47] 行业趋势与未来展望 - AI发展正从追求模型能力的“野蛮生长”，进入构建可信应用的“精耕细作”时代[48] - 智能体安全是一项关于构建数字世界“信任基础设施”的系统工程，是释放智能体经济万亿美元潜力的先决条件[51] - 智能体安全自身已演进为一个至关重要且高度独立的战略赛道，汇聚了密码学、形式化方法等多领域知识的尖端融合[51] - 未来衡量AI企业竞争力的标尺，将不仅是模型参数规模，更是其是否能搭建安全可信的智能体协同网络，实现多智能体在复杂场景下的稳定可靠运行[55]