AI生成图片滥用现状 - AI生成图片技术被广泛用于造假以获取不当利益 例如修改商品图片骗取退款 伪造不存在的事件或产品进行营销引流 甚至用作伪证或向管理部门提交虚假材料 [1][4] - 普通消费者往往难以辨别AI生成图片的真伪 除非对相关领域有深入了解 [6] AI图片检测技术的局限性实验 - 实验使用谷歌较新的图像生成AI“Nano Banana Pro”创作了一幅略带荒诞内容的图片 以测试AI检测工具 [9] - 实验首先对生成的图片进行格式转换以抹除原始数据 然后交由6个不同的AI图片检测工具进行识别 结果有两个工具未能识别出其为AI生成 尽管图片右下角仍保留可见的AI生成水印 [10] - 实验表明 并非所有AI图片检测平台都会依赖可见水印进行判断 它们可能采用其他技术手段 [14] - 当实验者移除图片的可见AI水印后 超过半数的检测工具仍能正确识别其为AI生成图片 说明可见水印对AI检测工具的干扰有限 [15][17] 欺骗AI检测工具的关键方法 - 实验人员推测 AI图片检测的关键机制可能在于识别图片的“瑕疵”程度 因为真实照片通常存在各种瑕疵 而AI生成图片往往过于“完美” [18] - 通过对AI生成图片人为添加噪点、边缘伪影并调整对比度使其风格偏离典型的AI明亮风格 修改后的图片成功骗过了所有参与测试的AI检测平台 [20] - 这表明 现阶段AI检测工具的关注重点可能在于图像的技术性特征 如平滑度和噪点数量 造假者通过手动添加瑕疵可大幅降低图片被AI识破的几率 [20] AI图像识别技术的根本缺陷 - 实验中的图片内容本身是“反常识”的 正常人类即使没有可见水印也能判断其不合理性 但AI检测工具却无法做到这一点 [21] - AI检测工具的失败揭示了现有AI技术的局限性 即能够生成以假乱真的图片 却难以真正“看懂”图片内容的荒诞性 无法结合现实世界知识判断画面的合理性 [24] - 实验揭露的核心事实是 AI本身对其所生成内容缺乏真正的理解 其对现实世界的理解能力可能远低于预期 [24]