香港GenAI沙盒计划参与情况 - 香港金管局第二期生成式AI沙盒共有20家银行和14家技术供应商的27个用例入选，从超60个方案中选出 [1] - 相较于2024年12月公布的首批沙盒（10家银行和4家技术供应商的15个用例），第二期规模显著扩大 [1] - 两期名单去重后，共有23家银行入选沙盒，其中7家银行连续入选两期 [2] - 23家入选银行包括7家中资银行、13家外资银行和3家数字银行 [2] 入选银行及其应用场景 - 多家银行已披露具体应用场景，涵盖财富管理、风险管理和反洗钱等领域 [2] - 中银香港将在第二期通过六个月概念验证，探索GenAI在财富管理、风险管理等领域的应用潜力 [2] - 工银亚洲计划开展三大场景的深度研发：优化金融市场交易敞口管理模型、实现流程自动化与AI模型深度融合、借助AI完成客户风险评级及黑名单甄别 [2] - 招商永隆银行入选用例为理财助手智能体 [3] - 兴业银行香港分行将聚焦“可疑交易监控智能辅助”场景，以AI技术赋能反洗钱调查 [3] - PAO bank（原平安壹账通银行）披露，截至2025年第三季客户存款总额突破80亿港元 [3] “以AI对抗AI”策略与技术应用 - 第二期沙盒多个用例采用“以AI对抗AI”策略，标志着行业从探索AI可能性迈向推动安全可靠应用 [4][5] - 应用方向包括运用AI对AI生成内容进行自动化质量检测，以及进行模拟攻防测试以抵御数码诈骗 [5] - 中银香港在首期计划中利用AI技术侦测文档防欺诈及人脸识别反深度伪造，第二期将深化该技术以应对新型深度伪造的文字及语音 [5] - 金融壹账通推出“智能视觉反欺诈策略平台”，构建“以AI对抗AI”的综合防御体系，该平台融合25个数字模块，综合检测防御率高达99%+ [5][6] 技术供应商与合作动态 - 第二期沙盒有14家技术供应商入选，包括AIFT、阿里云、蚂蚁数字科技、中国移动香港等 [6] - 富邦银行（香港）将联合阿里云、蚂蚁数科及微投智控等共同探索一款AI助理 [6] - 沙盒参与者将可使用数码港人工智能超算中心平台，技术测试预计于2026年初开始 [5]

平台入选与行业意义 - 平安集团旗下PAObank与金融壹账通联合打造的"反欺诈策略平台"入选香港金管局推出的生成式人工智能沙盒[2] - 这一成果标志着平安集团AI科技能力在银行业应用层面的突破[2] - 体现出业界在防范AI深度伪造诈骗风险方面的协同探索进入新阶段[2] 沙盒计划重点与目标 - 香港金管局于2024年推出的GenA.I.沙盒是金融行业重要的AI创新验证平台[2] - 第二期沙盒聚焦银行业的风险管理、反诈骗及客户体验创新[2] - 新增"GenA.I.协创实验室"模块，特别针对"深度伪造诈骗"设立测试方向，重点探索"以A.I.对抗A.I."[2] 技术应用与能力 - 平台在身份验证环节运用人工智能面部识别技术，实时验证用户自拍照片，侦查疑似伪造或合成面孔[3] - 该技术旨在协助团队监控和防范潜在诈骗活动，提升银行在风险管理和欺诈防范方面的能力[3] - 金融壹账通的"智能视觉反欺诈策略平台"可对AI伪造图像进行深度剖析，精准识别换脸、伪造视频等复杂攻击行为[3] 业务成果与市场影响 - 在境内，该技术已服务于多家金融机构，累计调用量超9000万次，成功拦截黑产攻击2万余起[3][4] - 在香港，金融壹账通已与两家本地银行达成"eKYC"反欺诈与大模型防伪项目合作，落地后预计将覆盖香港超过七成零售银行用户规模[4] - PAObank开业进入第5年，个人银行业务发展势头强劲，截至2025年第三季度客户存款总额突破80亿港元[3]

平台入选与行业意义 - PAObank与金融壹账通联合打造的"反欺诈策略平台"成功入选香港金管局与数码港推出的第二期生成式人工智能沙盒 [1] - 此次入选标志着公司AI科技能力在香港银行业应用层面的突破，体现业界在防范AI深度伪造诈骗风险方面的协同探索进入新阶段 [1] - 第二期GenA I沙盒聚焦银行业风险管理、反诈骗及客户体验创新，并特别针对"深度伪造诈骗"设立测试方向，探索"以A I对抗A I" [1] 技术应用与核心能力 - 平台在身份验证环节运用尖端人工智能面部识别技术，实时验证用户自拍照片，侦查疑似伪造或合成面孔 [2] - 该技术可协助监控和防范潜在诈骗活动，从而提升银行在风险管理和欺诈防范方面的能力 [2] - 金融壹账通的"智能视觉反欺诈策略平台"可对AI伪造图像进行深度剖析，精准识别换脸、伪造视频等复杂攻击，平台检测防御率高达99%+ [3] 业务发展与市场覆盖 - PAObank开业进入第5年，个人银行业务发展势头强劲，外币兑换、跨境汇款及保险陆续出台，截至2025年第三季客户存款总额突破80亿港元 [2] - 金融壹账通在香港已与两家本地银行达成"eKYC"反欺诈与大模型防伪项目合作，落地后预计将覆盖香港超过七成零售银行用户规模 [3] - 在国内，该技术已服务于多家金融机构，累计调用量超9,000万次，成功拦截黑产攻击2万余起 [3] 集团技术实力与业务成效 - 公司通过在全集团推广人工智能大模型、大数据等技术构建行业领先的数据库，为近2 47亿个人客户、超400万企业客户提供服务 [4] - 截至2025年6月，公司已积累超3 2万亿文本语料、31万小时带标注的语音语料，以及超75亿张图片语料 [4] - 2025年上半年，公司大模型已在超过650个业务场景中落地，调用次数达到8 18亿次，在提升服务效率、降低成本、防控风险和智能销售等方面成效显著 [4] - 具体业务成效包括：寿险保单秒级核保占比94%，AI坐席服务量占客服总量80%，产险反欺诈理赔减损64 4亿元，AI辅助销售达661 57亿元 [4]

文章核心观点 2025年大模型安全风险升级至智能体自身安全以及大模型应用环境的安全，启明星辰等头部网安企业正积极应对新挑战，加速构建“以AI对抗AI”的动态防御体系，还与中国移动共建下一代防御体系 [1][2][6] 大模型安全风险变化 - 2024年市场关注大模型自身安全，2025年升级至智能体自身安全以及大模型应用环境的安全 [1] - AI智能体赋能千行百业同时风险升级，其可像人类黑客扫描锁定系统漏洞、骗取用户信任窃取敏感数据 [1] 启明星辰应对挑战举措 构建动态防御体系 - 生成式AI规模化应用推动网络安全攻防进入“智能体对抗”新阶段，2024年启明星辰发布九天.泰合安全大模型以及安星智能体 [2] - 深度融合大模型技术推出数据安全智能体，对数据风险识别准确率从70%提升至90%，未来识别率将进一步提升，管控能力从事中干预提早至事前预防 [2] - 基于九天.泰合安全大模型构建智能体和智能体集群，以集群化模式协同联动，应对复杂网络威胁，带来研判效率提升和安全日志降噪两类效率提升，安星智能体已商业化落地 [3] 安全智能体集群MANUS化 - 安全智能体集群的MANUS化路线要求安全产业全面智能改造，构建多智能体、智能体集群安全体系，核心是让智能体具备独立思考等能力，将安全运营转化为自动化业务进程 [5] - 构建覆盖9大核心场景的智能体集群，形成“智能体生态”，内嵌可解释策略引擎，促使决策模型动态调优等提升AI自主执行能力和应对未知威胁的自适应能力 [5] 与中国移动合作 - 启明星辰以周为单位加速产品迭代，构建完整大模型应用安全产品矩阵和全场景防护体系 [6] - 移动云提出安全升维理念，核心是与启明星辰联合开发AI安全云脑，启明星辰将与中国移动持续深度协同，加大研发投入构建智能时代安全基座 [6]