AI技术滥用现状 - AI技术被用于制作发布谣言和不实信息，表现形式多样，如伪造视频和AI生成新闻稿[1] - 中央网信办部署"清朗·整治AI技术滥用"专项行动，重点整治利用AI制作发布谣言等乱象[1] AI谣言产生原因 - "AI幻觉"现象导致虚假信息输出，大模型在专业领域训练语料不足时容易出现推算错误[2][3] - 恶意编造传播"AI谣言"获取利益，包括炒作自媒体账号吸粉和实施诈骗等违法犯罪行为[4] - 形成"需求分析—内容生产—精准投放"的生产链条，有机构一天能生成4000至7000篇假新闻[4] AI谣言传播特点 - 可以做到分平台、分渠道、分时段、分媒介的定制化生成和发布，成本低廉[6] - 利用"灾难+儿童"等组合并删除AI生成标识，引发快速传播[6] - 造谣门槛大幅降低，用开源AI模型30秒即可生成以假乱真的画面[7] AI谣言防治难点 - 表述接近"真话"，更难以被技术手段屏蔽[9] - 可通过对抗训练绕过谣言关键词，如把"山体滑坡"改为"地质活动异常"[9] - 传统谣言像火可扑灭源头，"AI谣言"像病毒会不断变异[9] 技术改进方向 - 完全消除"AI幻觉"具有高度挑战，因大模型生成机制本质是概率驱动的语言建模[9] - 通过多模型协同判断、事实增强训练等技术手段可缓解"AI幻觉"发生的频率与危害[9]