AI技术滥用冲击电商售后 - 消费者利用AI生成虚假商品瑕疵图片(如烧焦的毛绒玩具、击穿的宠物碗、腐烂的水果)申请“仅退款”或部分退款,对商家构成新型欺诈风险[1][2][7][9] - 此类行为在生鲜、服装、日用品等多个品类中均有出现,生鲜类商品因易变质、难举证的特点成为重灾区[9] - 有商家指出,平台在处理小额退款申请时审核机制存在漏洞,“只要消费者提供图片,金额较低的,几乎都会自动通过”[20] AI造假技术特征与识别难度 - AI生成图片技术快速迭代,目前主流AI应用可轻松进行“AI修图”,输入“烧焦”、“开裂”等提示词,不足10秒即可生成效果逼真的破损图片[11] - 专业测试显示,在73人参与的识别问卷中,AI假图的整体识别正确率为71.23%,但个别图片(如一件脏污羽绒服)成功骗过近半受访者,32人判断为真,28人判断为AI[11][12] - AI图片存在共性特征,如瑕疵边缘模糊、光影逻辑混乱、破坏痕迹过于平均,而人为破坏通常具有局部性和不平均的特点[18] - 测试同时发现,AI技术加剧了用户对真实图片的不信任,5张真实图片中仅有53.42%被正确判断为真,35.62%被错误判定为AI生成[14][15] 电商平台应对措施 - 京东已针对生鲜商品构建多模态AI假图识别能力,处于试运行阶段,预计年底正式上线,可识别拦截虚假凭证[20] - 抖音电商已建立相关AIGC识别能力并在测试运行中,正式上线后将实现对利用AI假图进行恶意售后行为的拦截[21] - 拼多多表示将加强售后技术支持,淘宝(天猫)称其风控系统会核实凭证真实性[20][21] - 各平台正逐步优化“仅退款”服务规则,限制平台介入判定“仅退款”的适用情形,扩大商家自主决定权[21] 行业影响与法律定性 - 利用AI伪造证据申请退款的行为被法律专家定性为民事欺诈,若骗取金额达到“数额较大”,可能涉嫌构成刑法中的诈骗罪[19] - 该行为被指扰乱市场秩序,导致商家货、款两空,并增加其核验证据和应对纠纷的成本,可能打击中小商家的经营积极性和创新能力[22][23]
调查|当AI学会造假:实测一张“魔改图”,如何打败商家