当AI成为谋财害命的工具:从骗钱到卖假药,人类该如何防范?
36氪·2025-05-05 11:33
文章核心观点 AI技术发展带来便利的同时也被不法分子利用实施诈骗等违法行为,需平台加强审核、监管部门制订规范,消费者提高防范意识,引导AI健康发展 [10][17][22] 分组1:“苗古金贴”骗局 - “苗古金贴”宣传有“千年秘方”,由“非遗传承人”制作,销量达几十万登上电商畅销榜 [1] - 所谓“非遗传承人”照片是AI生成,证书是非法制作,产品由第三方代工厂贴牌生产,成本不到10元 [3] - 有关部门对相关企业和涉案人立案调查 [4] 分组2:AI诈骗现状 - 今年AI技术蓬勃发展,常见AI诈骗有声音合成与换脸,成本低至几十元可定制名人音频视频 [10] - 外呼公司形成产业链,用AI机器人拨打电话,克隆真人声音,难分辨是人还是机器人 [12] - 围绕AI形成黑色产业链,上游卖“AI换脸套餐”,中游用个人信息投放诈骗信息,下游转移资金 [12] - 骗子用“AI靳东”“AI张文宏”等冒充名人实施诈骗,雷军声音被恶搞 [12][15] - 福建一公司老板被好友“数字替身”骗走430万元 [16] 分组3:应对措施 - 电商平台应加强内容审核,排查登上榜单店铺资质和广告 [17] - 监管部门需制订AI行业统一规范,明确使用范围和条件 [19] - 消费者要保护个人信息,涉及资金等沟通时核实对方身份 [19]