深度伪造诈骗

搜索文档
“AI换脸”骗局防不胜防,金融行业开打“反深伪”攻防战
南方都市报· 2025-10-19 15:14
香港金管局AI沙盒与行业动向 - 香港金管局公布第二期生成式AI沙盒参与者名单,20家银行和14家技术合作伙伴的27个用例入选,技术测试预计于2026年初开始 [3] - 第二期沙盒聚焦银行业风险管理、反诈骗及客户体验创新,并新增"GenA.I.协创实验室"模块,特别针对"深度伪造诈骗"设立测试方向 [3] - 入选案例包括PAObank与金融壹账通联合打造的"反欺诈策略平台",该平台声称对AI伪造图像的检测防御率超99%,在国内累计调用量超9000万次,成功拦截黑产攻击2万余起 [10] AI滥用带来的金融风险与损失 - 基于AI的深度伪造欺诈在2023年暴增3000%,基于AI的钓鱼邮件数量增长1000% [4] - 2022年至2024年初,中国共发生"AI换脸"类诈骗案近百起,累计造成经济损失高达2亿元,其中一起香港案例单笔损失达2亿港元 [6] - 中国互联网金融协会2025年报告显示,此类事件导致的直接经济损失已突破18亿元 [8] - 不法分子低价出售换脸服务(如9.9元定制换脸视频),使得诈骗手段门槛进一步降低 [6] 行业反制措施与技术探索 - 业界正探索"以AI识别AI伪造"的解决方案,例如通过大模型技术辨别AI造假内容,国内首个AI大模型攻防赛在2024年世界互联网大会乌镇峰会举行 [10] - 国家网信办等四部门联合印发《人工智能生成合成内容标识办法》,要求自2025年9月1日起,AI生成内容必须添加显式或隐式标识 [9] - 金融从业人士坦言,依赖眨眼、摇头等传统静态检测手段在AI动态造假面前已显得脆弱 [8] - 技术反制成为守护信息安全的关键方向,通过技术对抗技术是金融科技演进的必然趋势 [11]