文章核心观点 - 人工智能在带来生产力提升潜力的同时 其被黑客广泛用于增强欺诈能力的关键方面被忽视 特别是在高价值的B2B支付生态系统中[1] AI驱动欺诈的现状与规模 - 据报道 41%的欺诈攻击是由AI驱动的 每年可能使公司损失数百万美元[2] - 大多数企业能够追回的被盗资金不足10% 同时 认知不足和网络犯罪分子使用的复杂AI增强手段 导致许多公司低估了威胁[2] - 全球欺诈总成本每年接近5万亿美元 其中B2B金融犯罪估计占近三分之一 每年总计约1.6万亿美元[3] - 在线和数字交易的增长与欺诈案件及损失的急剧上升同时发生 放大了遭受欺诈活动的风险[3] 技术增强欺诈的新趋势与案例 - 不法分子现在可以制作逼真的虚假发票、采购订单或付款指令 酷似合法的商业通信[4] - 他们还能部署CEO和其他高管的深度伪造语音和视频 以骗取买家数百万美元[4] - 去年美国发生了超过105,000起与深度伪造相关的攻击 相当于每五分钟一次 较2023年大幅增加[5] - 受害目标包括法拉利、云安全公司Wiz和广告集团WPP等全球主要公司[5] - 一个令人震惊的案例涉及英国工程公司奥雅纳 一名员工在与AI生成的多位公司高管替身进行视频会议后 向诈骗者转账了2500万美元[5] AI欺诈的产业化与影响 - AI驱动的欺诈已显著发展到成为一种职业选择 俄语广告寻求专门入侵和勒索企业的黑客[6] - 一则招聘启事要求招聘“以英语为母语者”协助处理商业信函和电话[6] - 传统的欺诈技术 包括曾经需要人工努力和专业知识的常规后台漏洞利用 现在可以借助AI轻松扩大规模[7] - 黑客攻击和网络钓鱼等活动可以实现自动化 并有效地外包给持续探测漏洞的系统[7] - B2B交易的数字化在透明度和便利性方面带来了巨大好处 但同样的便利性也为网络犯罪分子打开了大门 使系统以及客户和合作伙伴的系统面临风险[7]