AI生成内容对信息真实性的挑战 - 2023年5月AI生成的五角大楼爆炸图像导致标普500指数在几分钟内下跌0.3% [1] - 2024年10月飓风Helene相关的虚假AI图像获得数百万浏览量并被现任参议员分享 [1] - 2024年1月泰勒·斯威夫特的AI生成不雅图像在24小时内获得4700万次浏览 [9] - 截至2025年5月,NewsGuard已识别1271个不可靠的AI生成新闻网站 [7] - 2023年AI生成错误信息增加了十倍,与图像生成技术变得逼真时间点吻合 [7] AI图像生成技术的发展历程 - Stable Diffusion于2022年8月22日公开发布,DALL-E 2于2022年9月28日取消等待名单,Midjourney于2022年7月推出公开测试版 [2] - 2023年3月教皇方济各穿白色Balenciaga羽绒服的AI图像标志着AI内容达到关键里程碑,能够欺骗数百万人 [2] - 2023年中期Runway Gen-2成为首个广泛可用的文本到视频生成工具 [3] - 2024年2月Sora预览,2024年12月向公众发布 [3] - 2025年Kling 2.5和Sora 2生成具有"物理精确动作"和"同步音频"的视频 [5] 时间戳作为真实性验证的关键指标 - 媒体发布的时间越早,其真实性概率越高,2019年的媒体具有近乎完全的真实性推定 [5] - 2023年9月斯洛伐克议会选举前出现的深度伪造音频尽管内容复杂,但因在互联网上无早期存在记录而被识破 [6] - 任何声称显示2023年中期之前事件的视频都具有表面真实性,因为商业文本到视频生成工具当时尚不存在 [3] 当前时间戳系统的脆弱性 - EXIF数据和IPTC元数据可通过免费工具在几秒钟内被修改,文件创建日期可通过更改系统时钟进行回溯 [11] - 社交媒体平台在内容传播过程中通常会剥离元数据,导致溯源链断裂 [12] - 即使高级系统如C2PA也存在漏洞, manipulated元数据可携带较早时间戳创建看似合法的溯源链 [13] 媒体组织需要采取的技术解决方案 - 内容管理系统应使用可信时间服务器而非用户控制的系统时钟进行时间戳记录 [15] - 区块链时间戳可将内容哈希嵌入分布式账本,创建永久性存在证明 [17] - Leica、Nikon和Sony正在芯片级别嵌入内容凭证,认证从捕获时刻开始 [18] - Adobe Photoshop和Lightroom自动在加密清单中跟踪编辑历史 [18] - OpenAI在DALL-E生成的图像中嵌入C2PA元数据,明确标记为AI创建 [18] 行业标准采用现状与挑战 - 内容真实性倡议已有超过5000个组织加入部署相关工具 [17] - 截至2025年,C2PA采用率仍然极低,存在鸡与蛋问题 [19] - 2025年1月美国国家安全局发布指南认可内容凭证,表明确保信息生态系统安全需采用标准实践 [20] - 纽约时报2019-2020年试验区块链溯源跟踪,构建从相机到发布的原型系统 [18] 媒体组织的具体实施责任 - 纽约时报2020年10月对一年前故事实施自动标签,防止新闻被武器化用于错误信息 [16] - 卫报在社交媒体分享时对超过六个月新闻应用亮黄色标签 [16] - Adobe研究发现90%受访者希望在线内容附带归属详情,特别是在重大新闻事件期间 [16] - 意大利ANSA新闻机构实施区块链水印应对COVID-19错误信息,创建可点击图标显示创作者ID和时间戳 [17] 验证范式从检测到溯源的转变 - 传统验证问题"这看起来真实吗"已失去效力,应转向"能否证明这是真实的" [23] - 认证应是肯定性的而非调查性的,可验证的溯源创建正面凭证,缺乏溯源成为危险信号 [23] - 区块链时间戳的2019年照片不仅存在于2019年,而且可证明当时存在,具有加密证据 [24]
The timestamp defense: Why publication dates are now journalism’s most critical metadata