文章核心观点 - 研究人员提出名为“代理风险标准”的新金融保护框架 旨在为AI代理交易提供确定性保障 而非仅依赖降低模型出错的概率 以解决当前“担保缺口”问题并推动代理经济的广泛采用 [2][4][5] 行业现状与问题 - 当前AI代理在金融交易中出现严重错误时 责任归属与赔偿机制缺失 [1] - 金融生态系统目前除了将所有责任追溯给人类之外 没有其他运作方式 这限制了AI在高风险任务中的委托 [3] - 用户因无法界定潜在损失 理性地将AI委托限制在低风险任务中 制约了基于代理服务的更广泛采用 [4] 技术挑战 - 大语言模型本质上是随机的 无论训练或调优得多好 仍可能产生幻觉和犯错 [4] - 模型层面的安全改进可以降低AI失败的概率 但无法完全消除 [4] - 核心问题是“担保缺口” 即AI安全技术提供的概率可靠性与用户在委托高风险任务前所需的可执行担保之间存在脱节 [4] 解决方案与框架 - 由微软研究院 哥伦比亚大学 Google DeepMind Virtuals Protocol及AI初创公司T54 Labs的研究人员共同提出“代理风险标准”框架 [2] - 该标准旨在为AI代理发挥类似托管 保险和清算所在传统金融交易中的作用 [2] - ARS采取互补方法 不是试图让模型完美 而是形式化当模型不完美时在财务上的后果 从而建立一个用户保护是确定性而非概率性的结算协议 [5] - 该标准是开源的 可通过T54 Labs在GitHub上获取 [2] 代理经济与交易类型 - 存在一个完整的“代理经济” 这与仅仅将AI代理用于金融任务有本质不同 [3] - 代理交易有两种基本类型 人类在环金融交易和代理自主交易 [3] - 当前各方的焦点都集中在人类在环的交易上 但这本身就是一个真正的问题 [3]