核心观点 - 银行等机构在AI治理存在缺口时，赋予AI代理广泛自主权将带来新风险，而基于区块链的治理是确保AI代理可解释、可监控、可审计的最优方案 [2][5][7] AI代理治理的紧迫性与风险 - Gartner在2026年4月警告，完全自主的AI代理“尚未准备好用于大多数企业用例” [2] - 尽管存在风险，Gartner报告预计到2028年超过60%的组织将部署AI代理，而当时仅有17%已部署 [2] - AI的缺点如缺乏可解释性、幻觉和谄媚，若通过多个AI代理放大且不加控制，可能造成严重破坏 [3] - 当代理被允许自我适应时，情况更复杂，其决策的可解释性和可审计性受操作敏感性和执行时环境条件影响，常对客户产生重大影响 [4] 区块链治理的优势 - 现有的代理验证平台和防止权限升级的工具虽能解决代理安全问题，但缺乏对集体行为的基本理解和控制，以及审计决策的能力 [5] - 区块链技术可在AI代理的创建点和生产环境中有效治理 [6] - FICO基于区块链的AI治理方法从源头开始，将AI代理的开发过程编码，确保其行为可解释、可监控、可控制和可审计 [7] - 在生产中，代理AI任务区块链捕获多个代理的相互依赖关系及其区块链治理，提供由代理组合产生的AI决策的可解释性 [7] 构建可治理AI代理的关键方法 - 构建有效、可治理的AI代理系统需将复杂任务分解为小的、可管理的任务 [8][9] - 实践中，该方法产生两种可解释和可审计的GenAI模型：聚焦语言模型（FLM）和聚焦序列模型（FSM） [9] - FLM伴随信任分数，专注于语言任务的领域和任务 [10] - FSM处理实时交易决策，通过一次性分析客户交易历史判断当前交易是否欺诈或高风险 [10] 反洗钱（AML）部署实例 - 在银行的AML部署中，判断存款是否涉及恐怖融资、洗钱或其他非法行为可分解为数十个组件，每个代理执行一个特定任务 [11] - 代理的微决策在毫秒内被编排为“是”、“否”或“标记供人工审查”的决策 [11] - 第一批FLM代理回答“谁是存款客户”这一基本问题，多个代理执行银行持续的KYC流程，评估客户身份及是否在制裁名单上 [12] - FSM代理同时判断存款类型是否可能非法，单个代理考虑客户交易历史，评估存款金额、方式、账户、机构和国家等多个方面 [13] - 通过使用多个FLM和FSM代理解决更小、更简单的任务，最终决定是否将交易提交调查潜在洗钱 [14] 区块链构建控制机制 - 每个FLM、FSM及其他AI代理的开发过程被持久化到其自己的开发区块链中，包括代理间的允许交互及如何监控结果的使用 [15] - 代理工作流的编排由额外的代理AI任务区块链控制，该区块链包含可审计的细节以治理任何客户决策 [16] - 这些细节或“决策DNA”包括决策所用数据、代理决策、监控、内部自适应状态以及决策时刻各代理的相互依赖关系 [16] - 区块链治理将成为保持AI代理按预期运行的金标准，而代理AI的决策DNA将成为传统分析模型可解释AI的对应物 [18]