政策发布与核心目标 - 金融监管总局于6月18日发布《关于银行业保险业人工智能安全开发应用的指导意见》，对金融机构开发应用人工智能作出专项规范[1] - 政策核心目标是规范人工智能开发应用，防控技术风险，推动数字金融高质量发展，并引导金融领域人工智能应用向有益、安全、公平方向健康有序发展[3] 机构治理与责任体系 - 要求金融机构的董事会应指定专门委员会对人工智能开发应用管理负责[3] - 金融机构需建立人工智能全生命周期管理体系，实施人工智能应用风险分类分级管理[3] 高风险应用场景界定与管理 - 明确界定了生成式人工智能的高风险应用场景，包括资金交易、资产评估、信贷审批、承保理赔、风险管理等[1][4] - 与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用被视为高风险应用[4] - 高风险应用须经金融机构风险管理委员会批准后方可实施[4] - 高风险应用关键环节需建立人工监督和干预机制，明确紧急停用及模型退出条件，并建立备用系统或人工替代流程[4] - 面向公众服务或高风险场景使用生成式人工智能技术，需向金融监管总局或其派出机构报告[4] 安全开发能力要求 - 金融机构应构建兼具安全性、透明度与责任可追溯的人工智能应用能力体系[5] - 具体关注点包括增强稳健性、提高透明度、促进可解释性、保障伦理道德与公平性、加强数据安全与个人信息保护、提升网络安全防御能力、加强运营韧性及业务连续性管理等7个方面[5] - 要求将人工智能数据安全纳入企业数据安全管理体系，严格落实数据分类分级保护要求[5] - 需规范开发过程和数据访问权限，防范数据投毒，完善数据脱敏规范，避免使用可直接识别出个体的数据[5] 数据安全与个人信息保护 - 明确规定姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化[2][6] - 金融机构应加强模型安全护栏建设，加强内容过滤及脱敏管理[6] - 需严格管理外包过程中的数据安全[6] 监管框架与未来工作 - 金融监管总局将会同相关部门推动构建银行业保险业生成式人工智能安全开发应用技术框架，规范分类分级管理，明确安全开发标准规范[7] - 各级监管部门需重点关注相关金融业务合规风险，督促金融机构健全风险治理体系[7] - 金融监管总局及派出机构将优化风险监测预警指标体系，加强分析处置，完善监管工具方法[7] - 将督促金融机构聚焦对客服务、高风险应用场景制定风险应急预案，提升应急响应能力[7] - 将建立监管定期评估机制，重点加强高风险场景应用监管[7] - 将加强监管队伍建设，着力培养复合型监管人才，提升人工智能风险识别、监测和处置能力[8] 行业应用现状 - 金融行业正加快人工智能应用场景落地，在2026中国国际金融展上，国有大行、股份行及区域城商行均展示了全行层面的人工智能顶层规划与落地实践[3] - 人工智能已成为驱动金融业务升级的核心主线[3] 风险防控具体要求 - 要求金融机构将人工智能风险纳入全面风险管理体系[4] - 金融机构应有效应对金融业务侧可能产生的投资策略趋同、放大市场波动风险[4] - 严禁滥用人工智能技术生成虚假信息、操纵市场价格[4]