行业投资评级 - 报告未给出明确的行业投资评级 [1][2][3] 核心观点 - 自主型人工智能并未消除金融机构的问责制，改变的只是问责制的执行机制 [3] - 金融风险治理建立在错误以人类速度发生、一次一个决策的假设之上，而自主型AI消除了这一假设的残余 [3] - 自主AI的主要挑战并非规模，而在于有多少决策事先并未指定，其输出空间并非固定 [4] - 模型只能在预料的方面出错，而智能体可以在无人列举的方面出错，并在任何人看到模式之前重复成千上万次 [5] - 风险已超出为控制它而建立的管理机制，治理架构如今已成为行业脆弱之处 [7][8] - 机构应负责的范围与当前控制力所能实际监管的范围之间存在治理差距 [9] - 更有效的应对方式是将人工智能视为新风险环境的来源，同时也是管理它的主要工具 [17] - 对人类判断的影响是它并没有变得不那么重要，而是在更小的决策集中变得更为重要 [18] - 金融领域AI应用的下个阶段将取决于谁能构建治理它们的制度能力 [28] - 将人工智能治理视为合规性工作的机构会构建框架然后继续前进，将其视为战略能力的机构则会构建与人工智能速度风险相匹配的韧性 [29] - 机器速度的风险不会等待人类速度的治理 [30] 人工智能带来的风险环境四大变化 - 自主权风险：经典模型风险框架假设固定输入和离散输出，而智能体可以规划多步任务、调用工具、将任务委托给其他智能体，并在两次运行相同提示时选择不同路径得到不同答案 [10] - 对抗风险：恶意行为者正直接针对人工智能系统，2025年一个广泛部署的企业级人工智能助手曝出关键漏洞，一封精心构造的电子邮件即可导致系统在无需用户交互的情况下静默窃取内部数据 [11] - 相关风险：当机构部署基于相似数据训练、以相似目标进行优化的AI系统时，整个市场都存在以机器速度进行关联行为的条件，1987年股灾是最清晰的先例 [12] - 检测延迟：当一个AI模型带有缺陷假设时，它不会立即失效，能在规模上持续稳定运行数周或数月，而问题则会逐渐累积，AI风险在执行上可能很快，但在发现上却很慢 [13] 治理差距与问责制 - 在当今大多数机构的AI治理问题上，人人都有份，但又无人拥有 [14] - 发展最快的机构正在为AI风险指定一名负责的负责人，即一个单一的、有明确姓名的个人，其绩效评估取决于这一点 [14] - 高级问责制度已在许多市场存在，包括英国的高级管理人员和认证制度以及澳大利亚的财务问责制度，但在大多数机构中目前还不存在将这些制度与单个AI系统进行映射的做法 [14] - 治理缺位时本能的制度性应对是加强监管，增加审查者、委员会和检查点，但在人工智能赋能的环境下这种应对方式将无法扩展 [15] - 无风险团队无法以AI生成信用决策的体量和速度进行逐一审核，没有任何合规职能能够监控每一次AI辅助的客户互动，任何欺诈团队都无法实时调查每一个异常模式 [16] 2026年人工智能治理的两大优先事项 - 承认人工智能风险与实际治理人工智能风险之间的差距很大，这正逐渐成为监管期望以及良好实践 [20] - 新加坡金融管理局和香港金融管理局均已发布直接针对人工智能模型治理的指引，澳大利亚的CPS 230要求机构将关键系统的运营弹性视为董事会层面的问责责任 [20] - 优先事项一：绘制人工智能实际影响风险决策的地图，专注于人工智能正在作出或实质性影响具有财务、行为或运营后果的决策之处，例如信贷审批、定价、理赔、建议、欺诈检测、催收和客户沟通 [21] - 此类映射练习的输出几乎总会揭示比高层领导预期的更广泛的足迹，包括人工智能在那些原本未被评估为人工智能部署的供应商工具中运行 [21] - 在实践中这更像是一个在决策层面持有的登记册，对于每个重大的决策，是什么在影响它，该系统被允许做什么，决策由谁拥有而非系统拥有，以及其推理记录保存在哪里 [21] - 优先事项二：制定失败计划，而非假设其不会发生，金融机构已为信用损失计提准备金、持有资本以防范市场风险并进行流动性压力测试，同样的逻辑也应适用于人工智能 [22] - 如果一个机构无法说明其关键性人工智能系统在发生故障时的表现，或无法说明如何使受影响的客户得到妥善处理，那么无论其部署前的验证多么稳健，都存在治理缺陷 [22] 董事会应提出的关键问题 - 该人工智能系统正在做出何种决策或产生实质性影响，如果该系统做出错误决策，客户或资产负债表将面临何种后果 [23] - 谁对整个AI系统及其做出的决策负有个人责任，是以姓名而非以职能来界定 [23] - 它是自主运行还是需要人工批准，并且那条线是故意画的还是默认设置的 [23] - 事后能否解释它为何做出特定决策 [24] - 在人类察觉之前它可能造成多大的损失 [24] - 上次尝试像攻击者那样输入敌对数据来破解它时是什么时候以及发生了什么 [24] - 其他AI系统以及竞争对手的系统有多少是运行在相同的模型、供应商或数据之上的，如果它们在同一天以相同的方式移动会发生什么 [24] - 谁能把它关掉以及有多快 [24] - 哪些决定无论性能如何都已完全排除了自动化，有文献记载吗 [26] - 如果它失败了或者开始表现得与它被批准当天不同，那它算不算失败了呢，安全地我们多久才会注意到 [26] 监管动态 - 新加坡金融管理局和香港金融管理局均已发布直接针对人工智能模型治理的指引 [24] - 澳大利亚的CPS 230要求董事会对其关键运营的运营弹性负责，包括现在由人工智能支持的那些运营，而针对特定个人的问责则根据财务问责制度另行处理 [24] - 日本金融服务局于2025年3月发布了人工智能讨论文件，即促进金融领域人工智能健康应用初步讨论要点，同年下半年通过公私合办的人工智能论坛进行磋商，并于2026年3月发布了1.1版，目前仍开放意见征询 [24] - 当一个监管机构仍在形成其观点时，该机构承担着定义自身治理、证明其运营并日后捍卫它的工作 [25] 行业实践案例 - 1987年一系列各自理性且管理得当的相关投资组合保险计划同时触发，导致道琼斯工业平均指数单日下跌22.6% [7] - 长期资本管理公司进行约25倍杠杆的相对价值趋同交易，1998年8月俄罗斯违约引发避险情绪时利差变动远超其模型所认定的合理范围，纽约联邦储备银行协调14家机构注资36亿美元对其进行资本重组，未动用公共资金 [7] - 玻璃翼计划于2026年4月启动，由亚马逊网络服务、Anthropic、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达和帕洛阿尔托网络作为创始合作伙伴共同发起 [17] - 该项目利用前沿AI模型扫描了超过1000个开源项目，并识别出超过6000个高或严重等级的漏洞，其中一些漏洞已存在于广泛部署的软件中近三十年 [17] - 数个合作伙伴报告称与先前的安全审查流程相比，漏洞检测率提高了十倍以上 [17]