AI造谣现象日益频繁 - 利用AI生成虚假信息事件频发，例如有公众号运营者使用AI编造“30万居民撤离上海”等不实信息引发恐慌[1] - 2023年以来伴随AIGC技术高速发展，AI谣言量呈现高速增长态势[2] - 在各类AI谣言信息中，经济与企业类谣言和公共安全类谣言占比最多且增速最快，其中餐饮外卖、快递配送等民生行业成为重灾区[2] AI造谣内容特征与危害 - AI技术使网络谣言内容更为逼真，常配有伪造图片、视频甚至所谓“官方回应”，极具迷惑性[2] - AI不仅能高效生成虚假信息，还能通过过滤推荐机制将虚假信息聚合形成“证据链”，对普通用户和专业人士造成误导[2] - 虚假信息给企业带来繁重辟谣负担，需要耗费大量人力精力进行解释工作以消除不利影响[5] 流量变现驱动商业化黑产 - 不法分子利用AI工具批量生成不实文章进行吸粉引流，有案例显示某运营者平均每天通过AI工具发布4000到7000条信息[3][4] - 单条信息最高收入达700元，每日收入初步估算在1万元以上[4] - 造谣动机主要源于牟取互联网内容平台给予创作者的奖励，以及为电商平台经营引流，还可从广告收入、合同推广、直播带货等商业活动中获益[4] 不正当竞争催生黑色产业链 - 企业通过公关公司组织自媒体运营者和KOL，利用AI技术生成虚假信息大批量抹黑竞争对手[4][5] - 此后还有营销公司及流量商加入，进一步扩散传播谣言，形成商业化运作黑色产业链[5] - AI造谣已形成完整产业链，行业企业面临维权难、舆论修复难等挑战[5] 全链条治理措施与建议 - 公安部持续开展打击整治网络谣言工作，重拳打击编造传播涉企业、涉民生等领域网络谣言违法犯罪活动[5] - 中央网信办启动“清朗·整治‘自媒体’发布不实信息”专项行动，重点整治利用AI生成合成技术编造虚假信息[5] - 专家建议平台加强对AI造谣的智能识别，改革流量分发和收益分成机制，压缩通过AI造谣牟利的空间[6]