虚假信息传播率变化 - 十大生成式AI工具处理实时新闻话题时传播虚假信息比例从去年8月18%升至今年8月35% [1] - AI工具拒绝回答用户问题比例从2024年8月31%降至一年后0% [1] 虚假信息传播原因 - 实时网络搜索功能使AI接入受污染网络信息生态系统 [1] - 不良行为者蓄意散布虚假信息导致AI系统重复传播 [1] - 语言模型工作原理基于预测最可能出现的下一个词而非追求事实真相 [5] 各AI模型表现对比 - Inflection模型传播虚假信息概率最高达56.67% [3] - Perplexity以46.67%错误率位列第二 较去年8月100%揭穿率显著恶化 [3][4] - ChatGPT与Meta AI模型虚假信息传播率为40% [3] - Copilot和Mistral传播率为36.67% [3][4] - Claude错误率10%与Gemini错误率16.67%表现最佳 [4] 行业历史问题 - 去年发现966个以16种语言运营的AI生成虚假新闻网站 [3] - 虚假网站使用通用名称模仿正规媒体机构进行传播 [3] - 网络搜索功能导致AI混淆百年新闻出版物与俄罗斯宣传机构 [4] 技术挑战与应对 - OpenAI承认语言模型总会产生幻觉内容 [5] - 公司正研发新技术使未来模型能提示不确定性 [5] - 需AI真正理解真实与虚假的区分但目前难以实现 [5]