煤炭行业报告事件 - 某网站发布的《2024年中国煤炭行业竞争格局及发展趋势预测报告》售价7600元人民币，但目录中混入了游戏《Minecraft》中道具"煤炭"的规则说明，包括获取方式（击杀凋零骷髅获得1-3个）、用途（燃料或制造火把）及交易规则（15个煤炭交换一个绿宝石）[1] - 网友质疑该报告为AI生成，因目录内容直接整合了网络百科中游戏道具的说明信息[1] - 网站客服回应称系网络bug导致，目前已删除相关目录预览信息[1] AI生成内容的信息污染问题 - 大语言模型对人类知识库的污染问题引发讨论，例如煤炭行业报告混入游戏攻略等明显错误，而更隐蔽的虚假信息（如虚构学术文献）更难辨识[2] - 科普作家河森堡指出AI会虚构文本、照片、视频等内容并互相印证，形成难以查证的"天罗地网"式假象，用户易被误导[2][3] - AI生成的虚假信息在网络多轮传播后像滚雪球般扩大，查证难度倍增，同时低质内容充斥网络生态，覆盖政治、文化、科技等多个领域[3] 平台治理与政策建议 - 小红书于5月12日发布公告，整治AI技术滥用行为，包括清理"AI生成低俗猎奇视频"和"虚拟外国育儿专家"等违规内容[4] - 复旦发展研究院建议以算法和数据治理为核心，聚焦具体场景迭代监管政策，同时加强技术反制（如细化AI伦理准则）和专业机构合作[4] - 需系统性关注历史观相关虚假信息，建立对公共突发事件和政治敏感信息的快速澄清机制[4]

AI生成内容治理 - 微博启动对未标识"AI谣言"的治理 重点领域包括社会民生、突发事件、科普医疗和个人权益 对单条未标识AI内容打标"疑似由AI生成" 对多次违规账号限制流量分发或封禁 [1] - 微博用户需在发布页选择"内容由AI生成"声明 发布后时间栏会显示"AI生成"状态 [2] - 今日头条去年打压超过93万条低质AI内容 处罚近3万个利用AI批量发布虚假内容的账号 [3] - 低质AI内容典型特征是内容空洞、前后矛盾 平台正在收严审核力度并监测AI内容流量占比 [3] AI内容产业链 - 西安警方破获AI造谣案件 涉案人员日均生产19万篇AI内容 流向6000多个自媒体账号 [4] - 南昌MCN机构一天能AI生成4000-7000篇文章 运营842个账号 日收入超1万元 [4] - 使用国产大模型API生成单篇文章成本仅0.00138元 一分钱可生成七篇文章 [4] 监管政策与执行 - 《生成式人工智能服务管理暂行办法》要求对AI生成内容进行标识 [5] - 《人工智能生成合成内容标识办法(征求意见稿)》要求社交平台也需添加AI标识 [5] - 抖音、快手等六大社交平台已要求用户声明AI内容 但实际执行效果不佳 [5] - 网信办将2025年"清朗"行动重点定为整治AI技术滥用 强化内容标识 [5]