煤炭行业报告事件 - 某网站发布的《2024年中国煤炭行业竞争格局及发展趋势预测报告》售价7600元人民币，但目录中混入了游戏《Minecraft》中道具"煤炭"的规则说明，包括获取方式（击杀凋零骷髅获得1-3个）、用途（燃料或制造火把）及交易规则（15个煤炭交换一个绿宝石）[1] - 网友质疑该报告为AI生成，因目录内容直接整合了网络百科中游戏道具的说明信息[1] - 网站客服回应称系网络bug导致，目前已删除相关目录预览信息[1] AI生成内容的信息污染问题 - 大语言模型对人类知识库的污染问题引发讨论，例如煤炭行业报告混入游戏攻略等明显错误，而更隐蔽的虚假信息（如虚构学术文献）更难辨识[2] - 科普作家河森堡指出AI会虚构文本、照片、视频等内容并互相印证，形成难以查证的"天罗地网"式假象，用户易被误导[2][3] - AI生成的虚假信息在网络多轮传播后像滚雪球般扩大，查证难度倍增，同时低质内容充斥网络生态，覆盖政治、文化、科技等多个领域[3] 平台治理与政策建议 - 小红书于5月12日发布公告，整治AI技术滥用行为，包括清理"AI生成低俗猎奇视频"和"虚拟外国育儿专家"等违规内容[4] - 复旦发展研究院建议以算法和数据治理为核心，聚焦具体场景迭代监管政策，同时加强技术反制（如细化AI伦理准则）和专业机构合作[4] - 需系统性关注历史观相关虚假信息，建立对公共突发事件和政治敏感信息的快速澄清机制[4]