谁在给你的脑子「投毒」?
36氪·2025-11-23 10:08

文章核心观点 - 互联网虚假信息污染已形成成熟的灰色产业链,通过剧本编造、AI批量生产等方式大规模传播,主要驱动力为流量变现带来的高额经济回报 [5][9][22][37] - 虚假内容并非无害,其通过污名化特定群体(如外卖骑手)、制造社会对立、损害个人名誉等方式对现实社会产生实质性伤害 [22][24][25] - 虚假信息的传播速度与规模远超事实核查能力,算法推送机制与受众心理共同导致"事实让位于立场"的公共讨论困境,系统性摧毁社会信任 [46][52][54] 虚假内容产业链运作模式 - 剧本化视频制作:团队通过编写外卖员与顾客的冲突或情感剧本(如"骑手送蛋糕"剧情),雇佣演员拍摄低质但看似真实的短视频,单条视频点赞超7万、转发超3万 [7][8][9] - 流量变现渠道:主要盈利模式包括接药品广告(单广告约3000元,月接20单收入近7万)、平台流量激励(10万阅读量文章收益约440元)及直播带货(399元虚拟链接单日售出40多单) [20][21] - 规模化AI生产:公司使用自研AI工具(如"三匹马"软件)全自动抓取热点、洗稿生成内容(1分钟产10篇初稿),月盈利达90万元,员工通过分发现金激励(基层400元/人) [30][33][34][37] 虚假信息的社会危害 - 污名化特定职业:虚假外卖员视频刻意塑造"悲情"或"擦边"形象,加剧公众对骑手群体的误解,人为制造阶层对立 [14][22] - 伤害个体名誉:谣言直接导致艺人宋伊人被造黄谣、遭受网络暴力,演员于朦胧坠亡事件中虚假信息累计传播超12小时 [25] - 扰乱公共舆论:武汉大学图书馆事件中,主流媒体误报"杨某某博士录取资格被撤销"假新闻,阅读量迅速突破10万,加剧舆论场混乱 [24] AI技术加剧信息污染 - 低门槛批量造假:AI模型训练数据中仅含0.01%虚假文本时,有害输出增加11.2%,深度伪造技术可生成政治人物投降视频等扰乱国际舆论的内容 [27][29] - 平台算法助推:虚假内容因引发恐惧、愤怒等情绪更易获得高互动,触发算法优先推送,形成传播优势,而辟谣信息因滞后性难以等同扩散 [46] 事实核查的困境 - 产能严重不匹配:虚假信息爆发式增长(如俄乌冲突期间涉俄假消息550万条),而核查平台日均仅能处理8-9条信息,志愿者规模仅百余人 [46] - 核查流程复杂:需交叉验证权威信源(如东京奥运会水质报告需检索世界铁人三项联盟技术文件)或联系当事人确认(如李显龙办公室邮件回复) [48][49][51] - 公众信任缺失:热点事件后单一口径的信息披露方式削弱公信力,受众更倾向坚持原有立场,导致"摆事实讲道理"的讨论机制失效 [52][53][54]