互联网虚假信息产业规模与影响 - 中国网民平均每天花费在互联网的时间接近8小时，每天拿起手机117.9次，浏览近1000条信息，每月被动接触近万条信息[4] - 保守估计每月有上百条虚假信息，以2025年6月为例，全国受理网络违法和不良信息举报1849.6万件[4] - 虚假内容通过短视频和社交媒体可在几分钟内覆盖蒙骗百万受众[4] 虚假短视频产业链运作模式 - 虚假外卖员视频团队通过编撰剧本进行拍摄，例如“外卖员与女顾客”的故事，视频点赞超过7万，转发超过3万[7] - 团队规模可达16人，拥有至少8个账号，在浙江金华横店等地进行专业化拍摄[12] - 剧本核心强调戏剧化冲突，聚焦“擦边”或低俗内容，以激发道德愤怒或突出账号主体的善良[12][15] 虚假内容盈利模式 - 主要盈利方式包括接广告、平台流量激励、直播带货和打赏，例如药品广告每个约3000元，月接20个广告可收入近7万[20] - 平台流量收益显著，百家号平台每万阅读创作者可得20元左右，10万阅读量文章可带来2000元收益[20] - 直播中通过卖惨鼓动打赏，例如挂出399元“请我吃饭”链接，当天售出40多单，另挂出4999元“金条”盲盒和999元定制礼盒[20][21] AI技术在虚假信息生产中的应用 - AI可自动生成虚假文本和深度伪造内容，例如生成虚假道歉声明和法院判决书，传播速度极快[26][32] - 训练数据中仅有0.01%的虚假文本时，模型有害输出增加11.2%，0.001%的虚假文本也会导致有害输出上升7.2%[26] - 公司如长沙三匹马科技利用AI软件实现全自动采集、改写和发布，1分钟可生成10篇初稿，两小时可产出上千篇稿件[35][37] 虚假信息对社会和个体的危害 - 虚假内容污名化特定职业形象，如外卖员，并刻意制造社会群体对立，长期影响真实世界[22] - 虚假信息伤害具体个体，例如武汉大学图书馆事件中虚假信息扰乱舆论场，主流媒体跟进失实报道后未澄清致歉[23] - 艺人谣言引发网络暴力，例如大S去世谣言累计在微博热搜榜时长超过12小时，引导对其家人的攻击[24] 虚假信息与事实核查的失衡 - 虚假信息传播具有先天优势，由情绪驱动易触发转发和算法推送，而辟谣信息滞后数小时或数天，传播力度弱[43] - 事实核查平台如“有据核查”拥有100多位志愿者，日均仅能核查8到9条虚假信息，而2022年俄乌冲突期间涉俄假消息达550万条[44] - 公众对事实核查的信任度下降，例如胡鑫宇事件中尽管警方发布详尽通报，谣言仍被广泛传播且公众认为真相被隐藏[49]

短视频AI造假营销乱象整治 - 网信部门开展"清朗·整治短视频领域恶意营销乱象"专项行动 关闭"F0胡大"等利用AI技术冒用他人身份吸粉引流的账号 [1] - 不法分子利用AI深度伪造技术进行"换脸""换声""P图" 通过虚假身份快速起号后开展带货、卖课等商业活动 [1] - 部分账号将伪造内容明码标价交易 形成"起号、转型、转卖"灰色产业链 [1] AI生成视频的商业化应用 - 虚拟数字人账号未标注AI生成身份 部分账号粉丝量达数万至十余万 并通过商品橱窗实现变现 [1] - AI生成视频制作门槛低 可实现"一键生成" 无需出镜剪辑 单条视频播放量可达数百万次 [2] - 挂车卖书等变现方式收益显著 单个账号可实现25万元销售额 [2]