Workflow
AI对决AI!金融科技打响AI欺诈攻防战
经济观察报·2025-11-07 09:53

经济观察报 记者 老盈盈 在AI(人工智能)技术快速发展的背景下,各式各样的"深度伪造"(Deepfake)随时可能在日常生活中 出现,让人防不胜防。 近期,蚂蚁数字科技(下称"蚂蚁数科")的产品技术人士在对算法进行优化时发现了一些不法分子新的 欺诈手段。不法分子首先布下"钓鱼"陷阱,以银行的身份向被攻击对象发送短信或邮件链接,引导他们 到其网站进行交易。等被攻击对象不慎点击进入钓鱼网站,提交了自己的姓名、身份证号、电话号码、 短信验证码和支付密码后,这些不法分子就像拿到了"万能钥匙",立刻用这些信息登录被攻击对象的手 机银行,同时利用被攻击对象的照片生成高度逼真的AI深度伪造图像或视频,再通过注入式攻击(通 过注入恶意代码)来劫持被攻击对象的手机摄像头,随后用预录的图像或视频,篡改或替代物理摄像头 的自拍,绕过活体检测这道防线进行验证,以此实施欺诈等非法活动。如此一来,在身份验证通过后, 不法分子就可以转移被攻击对象的资金,甚至还会用被攻击对象的信息申请贷款,而被攻击对象却可能 浑然不知。 但"魔高一尺,道高一丈",在11月3日至4日的香港金融科技周上,"AI对抗AI"的展位里藏着一场看不见 硝烟的攻防战。 ...