虚假信息传播

搜索文档
研究:主流 AI 聊天机器人假消息传播概率猛增,较去年高出一倍
搜狐财经· 2025-09-15 14:31
虚假信息传播率变化 - 十大生成式AI工具处理实时新闻话题时传播虚假信息比例从去年8月18%升至今年8月35% [1] - AI工具拒绝回答用户问题比例从2024年8月31%降至一年后0% [1] 虚假信息传播原因 - 实时网络搜索功能使AI接入受污染网络信息生态系统 [1] - 不良行为者蓄意散布虚假信息导致AI系统重复传播 [1] - 语言模型工作原理基于预测最可能出现的下一个词而非追求事实真相 [5] 各AI模型表现对比 - Inflection模型传播虚假信息概率最高达56.67% [3] - Perplexity以46.67%错误率位列第二 较去年8月100%揭穿率显著恶化 [3][4] - ChatGPT与Meta AI模型虚假信息传播率为40% [3] - Copilot和Mistral传播率为36.67% [3][4] - Claude错误率10%与Gemini错误率16.67%表现最佳 [4] 行业历史问题 - 去年发现966个以16种语言运营的AI生成虚假新闻网站 [3] - 虚假网站使用通用名称模仿正规媒体机构进行传播 [3] - 网络搜索功能导致AI混淆百年新闻出版物与俄罗斯宣传机构 [4] 技术挑战与应对 - OpenAI承认语言模型总会产生幻觉内容 [5] - 公司正研发新技术使未来模型能提示不确定性 [5] - 需AI真正理解真实与虚假的区分但目前难以实现 [5]
39岁南洋博士送外卖火了?美团回应!曝光流量暴涨背后细节
北京商报· 2025-07-10 22:02
美团辟谣骑手学历不实信息 - 公司官方辟谣"广州美团满员,本科率接近30%"及"7万硕士、30万本科生送外卖"等数据为虚假信息,强调任何骑手学历总量数据均无事实依据[3][14] - 短视频博主丁X昭自称清华本科、北大牛津双硕士、南洋理工博士,身穿美团骑手服引发热议,但公司核实其仅完成34单、收入174.3元,日均跑单约2小时[3] - 该博主注册为美团众包骑手后,6个日期累计上线跑单,单日最高完成10单,6月14日后无跑单记录[3][4] 丁X昭跑单数据详情 - 2月16日至6月13日期间共跑单34单,时段分布显示午间11:00-14:00及晚间17:00-20:00为跑单高峰[4] - 单日跑单量波动明显,2月21日达峰值10单,6月9日仅完成3单[4] - 跑单记录显示其6月14日拒绝一单后彻底下线[4] 自媒体传播特征分析 - 丁X昭账号在高考期间(6月8日-15日)密集发布13条视频,流量较日常暴涨数倍[5] - 视频内容持续强化"39岁名校博士送外卖"反差人设,最新视频仍以骑手服形象谈论跑单经验[5] - 相关话题引发自媒体跟风传播不实学历数据,公司重申需通过学信网等官方渠道验证学历真实性[3][14]