文章核心观点 - AI工具被用于制造虚假信息,其生成的逼真内容(如伪造的员工证件、技术文档和详细指控)极大地降低了造假成本,同时大幅提高了信息核查的难度,加剧了社会信任危机,使“信息末日”的担忧日益迫近 [6][23][24][25][26] 虚假指控事件剖析 - 一名自称外卖平台软件工程师的新注册Reddit用户发布长文,详细指控平台算法通过“绝望程度评分”等机制剥削配送员,该帖子获得超过8.7万赞并引发广泛关注 [4][5][8] - 帖子指控的具体内容包括:故意延缓普通订单以凸显付费优先订单、收取“监管响应费”用于游说反对工会、根据司机行为标记“绝望程度”并据此屏蔽高价订单 [8] - 相关平台(DoorDash)首席执行官公开否认该指控与公司有关,而配送员倡导组织则表示这些指控符合他们熟悉的剥削模式 [8][10] 虚假信息的制造与核查过程 - 记者尝试联系举报人进行核实,举报人提供了拼写错误、疑似AI生成的员工证以及一份18页的所谓“机密”技术文档作为证据 [14][16][19] - 该技术文档题为“AllocNet-T:高维时间供应状态建模”,日期为2024年10月14日,内容试图为所有指控提供技术背书,甚至包括与评分系统无关的监管规避描述 [16][18] - 通过AI检测工具(Google Gemini)分析,举报人提供的员工证被标记为大部分或全部由AI生成或编辑,且相关公司证实此类印有特定品牌(Uber Eats)的员工证并不存在 [19] AI对信息生态的深远影响 - AI工具使得制造逼真谎言的成本急剧下降,而记者和公众进行事实核查与防御的成本则相应暴涨 [23][24] - 事实核查的传统逻辑面临挑战:当AI可以批量伪造近乎完美的信息出处时,连接“事态”与“事实”的桥梁正在坍塌 [25] - 深度伪造技术的泛滥不仅可能导致公众受骗,更危险的后果是引发普遍的怀疑主义,使公众可能对所有事物都不再信任,从而加剧社会不确定性 [26][28]
AI差点骗过全世界,这个8.7万赞的帖子被揭穿后,我开始怀疑一切了