央媒揭AI造谣利益链:有MCN机构每天发数千条谣言 收入万元以上
新华社·2025-09-17 07:30

AI谣言的生产与传播特征 - AI技术可高效生成内容逼真、欺骗性强的虚假信息,并可通过过滤、推荐机制将虚假信息聚合形成“证据链”,造成误导[2][3] - 2023年以来伴随AIGC技术高速发展,AI谣言量出现高速增长,经济与企业类谣言和公共安全类谣言占比最多、增速最快,其中餐饮外卖、快递配送等民生行业成为谣言重灾区[2] - 网络谣言常配有AI伪造的图片、视频甚至所谓“官方回应”,极具迷惑性[2] AI谣言的商业化驱动模式 - 不法者造谣动机主要源于牟取互联网内容平台给予创作者的奖励以及为电商平台经营引流,收益可通过广告收入、合同推广、直播带货等商业活动获得[6] - 某MCN机构运营842个自媒体账号,平均每天通过AI工具发布4000到7000条信息,单条最高收入700元,初步估算日收入在1万元以上[6] - 不正当商业竞争催生AI谣言黑色产业链,“金主”企业通过公关公司组织自媒体运营者利用AI技术生成并扩散抹黑竞争对手的内容[6] AI谣言对企业的冲击与挑战 - 企业面临辟谣工作带来的繁重负担,需耗费大量人力、精力进行解释以消除不利影响[7] - 相关行业企业在应对AI谣言中面临维权难、舆论修复难等挑战[7] AI谣言的全链条治理举措 - 公安部组织全国公安机关持续开展打击整治网络谣言工作,重拳打击编造传播涉企业、涉民生等领域网络谣言违法犯罪活动[8] - 中央网信办启动“清朗·整治‘自媒体’发布不实信息”专项行动,重点整治利用AI生成合成技术编造社会民生等领域虚假信息的问题[8] - 建议平台加强对AI造谣行为的智能识别,改革涉及AI内容的流量分发和收益分成机制,压缩通过AI造谣牟利的空间[8] - 司法治理需针对AI造谣链条的前端发布主体、中端技术手段和末端危害进行全链条打击和预防[9]