AI造假退款
搜索文档
调查|当AI学会造假:实测一张“魔改图”,如何打败商家
贝壳财经· 2025-12-03 09:46
AI技术滥用冲击电商售后 - 消费者利用AI生成虚假商品瑕疵图片(如烧焦的毛绒玩具、击穿的宠物碗、腐烂的水果)申请“仅退款”或部分退款,对商家构成新型欺诈风险[1][2][7][9] - 此类行为在生鲜、服装、日用品等多个品类中均有出现,生鲜类商品因易变质、难举证的特点成为重灾区[9] - 有商家指出,平台在处理小额退款申请时审核机制存在漏洞,“只要消费者提供图片,金额较低的,几乎都会自动通过”[20] AI造假技术特征与识别难度 - AI生成图片技术快速迭代,目前主流AI应用可轻松进行“AI修图”,输入“烧焦”、“开裂”等提示词,不足10秒即可生成效果逼真的破损图片[11] - 专业测试显示,在73人参与的识别问卷中,AI假图的整体识别正确率为71.23%,但个别图片(如一件脏污羽绒服)成功骗过近半受访者,32人判断为真,28人判断为AI[11][12] - AI图片存在共性特征,如瑕疵边缘模糊、光影逻辑混乱、破坏痕迹过于平均,而人为破坏通常具有局部性和不平均的特点[18] - 测试同时发现,AI技术加剧了用户对真实图片的不信任,5张真实图片中仅有53.42%被正确判断为真,35.62%被错误判定为AI生成[14][15] 电商平台应对措施 - 京东已针对生鲜商品构建多模态AI假图识别能力,处于试运行阶段,预计年底正式上线,可识别拦截虚假凭证[20] - 抖音电商已建立相关AIGC识别能力并在测试运行中,正式上线后将实现对利用AI假图进行恶意售后行为的拦截[21] - 拼多多表示将加强售后技术支持,淘宝(天猫)称其风控系统会核实凭证真实性[20][21] - 各平台正逐步优化“仅退款”服务规则,限制平台介入判定“仅退款”的适用情形,扩大商家自主决定权[21] 行业影响与法律定性 - 利用AI伪造证据申请退款的行为被法律专家定性为民事欺诈,若骗取金额达到“数额较大”,可能涉嫌构成刑法中的诈骗罪[19] - 该行为被指扰乱市场秩序,导致商家货、款两空,并增加其核验证据和应对纠纷的成本,可能打击中小商家的经营积极性和创新能力[22][23]
当AI学会造假:实测一张“魔改图”,如何打败商家
新京报· 2025-12-03 09:23
双11购物节促销结束,玩具商家小黄(化名)的客服后台收到一则特殊的售后申请。 买家上传的照片中,售价167元的毛绒玩具挂件"贝儿"满身焦黑,尾巴呈现出火烧般裂纹,"都没有用怎么就这样 了",要求"退款50元"。 凭借多年电商经验,小黄初步认为,这是客人使用不当所产生的损坏,"我们都是全新发货全程录像,如果是客人 使用不当导致的损坏我们无法补偿"。 尽管对恶意退货有所防备,但小黄也未猜到买家用上了"技术狠活"。"之前我以为是客人把玩具丢火里了,后来经 朋友提醒,越看越像AI(人工智能)假图"。 这场看似普通的售后纠纷,只是AI技术滥用的一个缩影。新京报贝壳财经记者调查发现,从"烂掉"的香蕉到"漫画 般"的破衬衫,从"击穿"的饭碗到"火烧"的毛绒玩具,AI生成的虚假瑕疵图已成为部分人薅羊毛的"退款神器",这 场技术狂欢正冲击着电商交易的信任基石。 对此,京东、拼多多、淘宝、抖音等头部电商平台向贝壳财经记者回应称,高度重视此类问题。新京报贝壳财经 记者独家了解到,部分企业AI"反制"措施即将在年底正式上线。 "火烧玩具"退款50元,商家"自制"防骗指南 "我当时盯着那张图看了半天,还以为这玩偶是掉火里了——结果是A ...
网店3个月内遭遇9起AI造假退款!强制标识背后的两难困局
环球网资讯· 2025-11-28 10:48
来源:央视网 三个月内,父亲在嘉兴经营的生鲜网店连续遭遇9起"仅退款"事件,这让在上海工作的陈晓薇警觉起 来。 今年10月假期,她专程回到老家,仔细查看父亲的手机记录,试图弄清缘由。 "父亲的店铺主打'现摘现发',已经营五年。每次发货前,他都会录制封箱视频,清晰记录柑橘的色 泽、果径和包装单号。"陈晓薇告诉央视网《锋面》记者。 然而,当她登录网店后台核查时,却发现这几起"仅退款"的买家均提供了开箱图片——箱内的柑橘要么 腐烂变质、要么干瘪失水,甚至出现虫蛀痕迹。 受访者供图 起初,陈父以为是快递运输环节出了问题,前几单均同意了退款申请。但随着类似情况越来越多,他与 快递公司多次沟通未果,只得求助女儿。"我一张一张仔细查看,注意到其中一张图的角落留有疑似水 印的痕迹,像是被裁剪过。"陈晓薇联想到近期媒体报道的AI修图"仅退款"现象,怀疑店铺遭遇了有组 织的恶意退款。 她进一步致电平台客服,对方回复称"无法判定图片是否由AI生成"。由于涉及订单总金额不足1000元, 未达到诈骗罪立案标准,报警途径也难以走通。陈晓薇感叹,AI生成的水印可以被轻易去除,平台缺 乏有效检测机制,最终受损的往往是像父亲这样诚信经营的小商 ...