事件概述：AI生成虚假信息在委内瑞拉事件中的传播 - 在美国军方行动推翻委内瑞拉领导人尼古拉斯・马杜罗后，一批声称展现委内瑞拉民众街头欢庆场景的AI生成视频在社交媒体上迅速走红[2][8] - 这些AI合成视频在抖音、照片墙和“X”平台等主流社交平台上累计获得数百万次观看[2][8] - 其中在“X”平台传播最广的视频由拥有超过100万粉丝的账号“华尔街猿”发布，浏览量已超560万次，被至少3.8万个账号转发，商界大亨埃隆・马斯克也曾转发但最终删除[2][8] 内容来源与传播路径 - 已知该视频的最早版本出现在抖音账号“@美国好奇智库”，该账号经常发布AI生成内容[3][9] - 在真实照片发布前，网络上已流传AI生成的马杜罗被美方羁押的图片[3][9] - 法新社事实核查团队还标记了其他误导性内容，例如将智利民众庆祝画面伪造成委内瑞拉场景的视频片段[5][11] 行业挑战：平台应对AI虚假信息的能力 - 主流社交媒体平台及其AI检测工具难以跟上AI技术的发展速度，在突发新闻事件期间问题尤为突出[4][10] - 抖音、元宇宙平台等已推出AI内容检测与标注工具，但实际效果参差不齐[6][12] - “X”平台主要依赖“社区备注”功能进行标注，批评者指出该机制反应迟缓，难以阻止虚假信息在被识别前大面积扩散[6][12] - 平台监管者承认，随着AI技术愈发擅长模仿现实，平台的识别能力反而会逐渐下降[6][12] 行业趋势与监管动态 - 社交媒体公司正面临越来越大的压力，被要求为具有潜在误导性的AI生成内容添加明确标签[5][11] - 印度政府提出法案要求对AI生成内容强制标注，西班牙出台法规对未标注内容最高可处以3500万欧元的罚款[6][12] - 行业内部出现新思路，认为相比给虚假内容做标记，为真实内容设置数字水印可能是更可行的方案[6][12] AI技术滥用与影响 - 此次事件中，AI生成内容凭借广泛的传播范围和高度的逼真度，成为AI技术日益沦为虚假信息传播工具的鲜明例证[5][11] - 像苏蕊和米德尔旅程这类AI内容生成平台的出现，使得人们能更便捷地快速制作超写实视频，并在突发新闻引发的信息混乱中冒充真实内容传播[5][11] - 此类内容的制作者往往意在放大特定政治叙事，或是在全球受众中制造认知混乱[5][11] - 去年一段由AI生成的关于“粮票计划”的视频曾广泛传播，甚至骗过了福克斯新闻频道，后者曾将其当作真实事件报道[5][11]