Workflow
AI假图
icon
搜索文档
AI假图,要把网购玩坏了
虎嗅· 2025-09-04 18:33
文章链接:https://www.huxiu.com/article/4763194.html 阅读原文:AI假图,要把网购玩坏了_虎嗅网 买家不信任卖家的产品图,卖家也不信任买家的维权图,AI把网购玩坏了。不得不说,网购这个"江 湖",已经被AI这个"外来物种"搅得更浑浊了。今天这期视频我们聚焦:电商AI假图。 文章标题:AI假图,要把网购玩坏了 ...
一张AI假照片,差点骗走5万块
虎嗅· 2025-08-30 15:54
AI生成图像滥用事件 - Airbnb房东使用AI生成虚假损坏图像向租客索赔5314英镑(约51626元人民币) [7][10] - 平台调查后发现图像不一致并确认为AI生成 最终退还租金并封禁房东账户 [12][14] - 事件显示AI技术显著降低造假成本 使图像伪造门槛从专业PS技能降至零基础可操作 [16][17] 行业应用乱象 - 电商领域出现买家利用AI伪造商品损坏图像申请仅退款 包括使用ChatGPT处理榴莲损坏图像 [21][22] - 餐饮商家使用AI生成虚假门店热闹场景图像 包括伪造客流和室内环境 部分图像带有"豆包AI生成"水印 [29][30][32] - 商品图像出现违反物理规律的AI生成内容 如"花生上树"等异常图像 [34] 平台监管与技术应对 - 电商平台已开始禁止商家使用AI生成图像 [35] - 欧盟《人工智能法案》和中国《人工智能生成合成内容标识办法》要求AI生成内容必须添加数字水印 [45][46] - 科技公司推出数字水印技术 包括meta的Stable Signature和谷歌SynthID 通过低频频谱域嵌入水印 [47][48][49] 水印技术突破与局限 - 开源工具Unmarker可在5分钟内破解多数AI图像水印 通过全频谱信息修改使水印失效率达79% [51][52][54] - 谷歌承认水印未被完全消除但效果大幅减弱 其上一代HiDDeN技术已被完全破解 [53][54] - 数字水印技术可靠性受质疑 短期内难以形成有效防护体系 [58] 行业影响与成本变化 - AI技术导致信任成本显著上升 退货验证从拍照升级为视频录制甚至线下核实 [60][61] - 住宿行业出现预防性行为 客户需全程录制房间状态以自证清白 [62] - AI技术为恶意行为提供低成本实施途径 加剧了商业环境中的信任危机 [63]
防范AI假图需形成合力
经济日报· 2025-05-08 06:11
最大限度降低AI滥用影响,让技术更好造福人类,还需社会各界达成共识,形成治理合力。互联网平 台是AI生成内容的主要传播渠道,强化AI生成内容治理,平台应发挥更大作用。《办法》特别明确了 平台需对合成内容进行审核、核验。对此,有电商平台企业第一时间作出回应,发布新规严禁利用AI 等技术合成方式,呈现显著失真、与实际不符的商品信息效果图,还向全行业发出倡议,规范使用AI 生成图片,保障商品信息真实,号召加入对AI假图的全面治理。 不同于资讯、娱乐内容,商品图片直接关系到消费决策,需要更精细的管理。平台要主动出击完善规 范、推出治理方案,可通过模型识别,拦截失真的AI假图上传,同时针对存量假图向商家发出整改提 醒,并标注提醒消费者注意甄别。 (文章来源:经济日报) 当前,人工智能(AI)技术给人们生产生活带来便利的同时,也出现不少风险挑战,AI造假就是其中 之一。例如,有不法分子利用"AI换脸""AI变声"等合成技术实施诈骗,迷惑性很强;一些不良商家靠AI 假图吸引顾客,"图文不符""货不对板"等现象频发。 国家互联网信息办公室等四部门日前联合发布《人工智能生成合成内容标识办法》,要求AI服务提供 者和内容传播平台 ...