AI假新闻的爆发式增长 - AI驱动的假新闻网站数量从2023年5月的49个激增至2023年12月的600多个，增长幅度达1000% [1] - 到2024年6月，AI假新闻网站数量达到1265个，超过美国本土报纸网站数量（1213家）[2] - 2005年至2022年期间美国约有2500家当地报纸倒闭，而AI假新闻网站数量却在快速增长 [3] AI假新闻的技术基础 - 生成式AI技术快速发展，从2022年底ChatGPT发布至今，AI在多模态生成领域已实现从粗糙到逼真的转变 [7] - AI工具可在几分钟内完成假新闻网站建设、假作者信息生成、图文视频内容制作等全套流程 [12] - 与传统假新闻相比，AI生成的假新闻在文字风格、图像质量等方面更接近真实内容 [13] AI假新闻的传播特点 - 单个造假者最高峰一天能生成4000到7000篇假新闻 [14] - 前100名数字广告商中有55%将广告投放在虚假信息网站，67%的数字广告出现在虚假信息网站 [15] - AI假新闻更容易传播，单条最高收入可达700元，部分造假者日收入超过1万元 [15] AI假新闻的社会影响 - 世界经济论坛将错误信息和虚假信息列为未来几年最严重的全球风险之一 [20] - 假新闻会强化个人偏见，引发群体对立，在危机事件中阻碍真相传播 [21] - AI假新闻泛滥可能导致公众信任永久缺失，真相与虚假的边界模糊 [22] 行业应对措施 - 部分AI平台已设置参数限制，如禁止生成真人图像或欺骗性内容 [24] - 专业新闻机构CNET因使用AI生成内容出现事实错误而暂停相关业务 [23] - 开源AI技术如Stable Diffusion增加了防治假新闻的难度 [24]