行业宏观趋势 - 人工智能行业正以每年约30%的速度快速增长 在大型金融机构中的应用覆盖率已达到85% [3][7] - AI技术的快速进展主要得益于硬件成本降低与算力提升 其形态不仅限于大语言模型 早期已涵盖专家系统、机器学习等多种形式 [3][7] - 2024年有两项诺贝尔奖授予了AI相关成果 凸显了该领域的重要性 [3][7] AI在金融业的应用现状 - 前台应用当前主要用于智能客服 能大幅节省人力 但为确保信息准确 多采用闭环AI而非开放模型 最终决策仍需客户经理负责 [4][8] - 中台应用集中在反欺诈监测、信用评级和文档处理分析 其中反欺诈因应对日益猖獗的电信诈骗而备受重视 [4][8] - 后台应用更多用于市场分析、模型计算以及至关重要的资本储备计量 [4][8] - AI的应用已带来大幅降低成本、提升客户满意度的效果 [3][7] AI在金融领域应用的核心风险 - AI应用存在产生“幻觉”的风险 即输出不准确或虚构内容 [3][7] - 训练数据若存在偏见 输出结果也会带有偏见 [3][7] - 模型决策过程复杂且不透明 形成“黑箱” 难以解释 [3][7] - 存在数据使用不当、侵犯个人隐私的风险 [3][7] - 这四大问题是金融业实现“风险可控”必须直面的挑战 [3][7]