防范AI假图需形成合力
经济日报·2025-05-08 06:11
最大限度降低AI滥用影响,让技术更好造福人类,还需社会各界达成共识,形成治理合力。互联网平 台是AI生成内容的主要传播渠道,强化AI生成内容治理,平台应发挥更大作用。《办法》特别明确了 平台需对合成内容进行审核、核验。对此,有电商平台企业第一时间作出回应,发布新规严禁利用AI 等技术合成方式,呈现显著失真、与实际不符的商品信息效果图,还向全行业发出倡议,规范使用AI 生成图片,保障商品信息真实,号召加入对AI假图的全面治理。 不同于资讯、娱乐内容,商品图片直接关系到消费决策,需要更精细的管理。平台要主动出击完善规 范、推出治理方案,可通过模型识别,拦截失真的AI假图上传,同时针对存量假图向商家发出整改提 醒,并标注提醒消费者注意甄别。 (文章来源:经济日报) 当前,人工智能(AI)技术给人们生产生活带来便利的同时,也出现不少风险挑战,AI造假就是其中 之一。例如,有不法分子利用"AI换脸""AI变声"等合成技术实施诈骗,迷惑性很强;一些不良商家靠AI 假图吸引顾客,"图文不符""货不对板"等现象频发。 国家互联网信息办公室等四部门日前联合发布《人工智能生成合成内容标识办法》,要求AI服务提供 者和内容传播平台 ...