文章核心观点 AI生成的低质量垃圾内容已在各大科技平台泛滥，严重污染信息生态，导致用户不满加剧，硅谷科技公司正被迫采取大规模清理行动，但治理面临技术、误判和系统性挑战 AI垃圾内容的泛滥现状 - 劣质AI垃圾内容已充斥谷歌搜索、亚马逊商品页、脸书信息流等主要平台，包括“胶水披萨”食谱、虚假传记和“虾仁耶稣”图片 [2] - 法国流媒体服务Deezer表示，每天更新到其系统的曲目中近一半是人工生成的，许多从未被用户听过 [5] - AI生成的内容占Apple Music上传量的三分之一以上 [5] - 在马斯克旗下社交媒体平台X上，近一半超过50个字的帖子是由AI生成的 [11] - 根据Kapwing实验，YouTube向新用户推荐的最初短视频中，超过20%是AI生成的垃圾内容 [8] - 词典出版商梅里亚姆-韦伯斯特将“AI垃圾内容”选为2025年的年度词汇 [5] 科技公司的清理行动 - Spotify去年删除了7500万条批量上传内容、重复歌曲及其他“垃圾式”曲目，占其全部音乐库的相当大一部分 [4] - 领英在7月表示“AI垃圾内容是我们所有人的首要关注重点”，并开发了用户举报按钮 [4] - YouTube母公司谷歌研究人员描述了该视频服务如何在六个月内清除了13万个低质量频道 [4] - YouTube发现了5万个账户集群并将其移除 [10] - TikTok表示已自动标记了超过30亿条AI生成的视频，今年前3个月因违反AI政策删除了超过37.7万条视频 [10] - X平台今年封禁了那些通过付费鼓励机器人发布内容的应用程序 [11] - Substack推出AI检测工具，由Pangram提供技术支持，扫描回复、评论及超过100个单词的帖子 [11] - Pinterest去年10月更新系统，允许用户限制看到的AI生成帖子数量 [10] - TikTok正在美国测试一项功能，让人们可以调节可见的AI内容数量 [10] 科技公司的矛盾角色 - 许多正在治理AI垃圾内容的科技公司，也正是那些一手制造了它的公司 [8] - Meta今年7月承诺支持一项欧洲公约，使AI生成内容更易于识别，但同月发布的图像生成器自动将公开Instagram账户纳入参考数据源，遭用户强烈反对后移除 [8] - Instagram负责人亚当·莫塞里表示追踪“真实媒体”很快将比追踪“虚假媒体”更加实际，此前Meta推出完全由AI生成的视频信息流被嘲讽为垃圾内容展示台 [6] - 谷歌已全面拥抱AI，将Gemini模型接入电子邮件、地图、旅行服务及搜索业务 [8] AI垃圾内容的经济影响 - Kapwing估计YouTube上一个最受欢迎的AI垃圾内容频道年收入高达425万美元，该频道此后已被暂停参与YouTube的创收计划 [9] - YouTube CEO尼尔·莫汉表示“管理AI垃圾内容”是今年的首要任务 [9] 治理挑战与专家观点 - 欧洲研究人员去年写道，如果放任不管，网络上的合成内容沼泽可能“挤压人类创造力，腐蚀文化价值，破坏公共话语” [5] - 俄亥俄大学AI专家保罗·肖夫林表示AI垃圾内容是一把双刃剑，平台因此获得用户参与度提升，但逐渐变成负担，用户难以找到高质量内容 [8] - 哥伦比亚大学研究人员卡米尔·弗朗索瓦指出，这些杂乱无章的应对策略表明面对的是信息环境中的系统性问题，不能简单地定义并删除AI垃圾内容 [12] - 一些数字媒体专家担心谷歌的账户集群移除方法可能过度干预，误伤合法创作者 [10] - Substack的AI检测工具被一些新闻通讯作者抱怨将人类撰写的帖子误判为AI生成，给作者带来不必要压力 [11] - 内容创作者艾丹·沃克表示AI垃圾内容只是另一个“正在溃烂的伤口”，舆论风向已明显变化，公司终于开始正视问题 [4][5]