公司动态 - 谷歌在年度I/O开发者大会上宣布 将SynthID AI内容检测器从Gemini应用扩展到谷歌浏览器和谷歌搜索 用户可通过Circle to Search功能或在线图片右键点击来检测内容是否为AI生成[1][2] - SynthID不可见水印系统经过多年测试和开发后于2025年底向公众发布 该系统允许用户在Gemini应用中分享图片并询问其真实性 聊天机器人随后会搜索水印并给出答案[1] - 根据Alphabet CEO Sundar Pichai的说法 SynthID水印已被用于超过1000亿张图片和视频以及"6万年的音频资产" 已有数百万人在Gemini应用中使用过SynthID检测器[2] - 谷歌正在通过合作伙伴关系扩展SynthID水印的应用范围 合作伙伴包括ChatGPT制造商OpenAI、AI语音生成器ElevenLabs以及去年已签约使用SynthID的英伟达[3] - 谷歌预览的新超写实视频创作工具Gemini Omni也将在其视频中嵌入SynthID水印[4] 行业趋势与公司战略 - 随着生成式AI技术的进步 对内容透明度的需求也在增加 谷歌正在其产品中添加内容凭证验证功能 以显示内容的起源是AI生成还是相机拍摄 以及是否使用生成式AI工具进行过编辑[3] - 公司致力于推动跨行业合作并期待扩展到更多合作伙伴 旨在为AI时代设定透明度标准[4] - SynthID推出初期的一个批评是其仅能识别Gemini创建的内容 而非其他AI图像生成器制作的图片 此次扩展和合作旨在解决这一局限性[3]

公司举措 - OpenAI宣布两项新措施以应对AI生成图像的真实性问题 [1] - 公司承诺采用名为C2PA的开放标准，该标准在元数据中添加清晰信号以表明图像由AI生成 [2] - 公司还与Google合作，引入一种名为SynthID的隐形水印，该水印更难检测，同时恶意行为者若试图掩盖痕迹也更难擦除 [2] - 这些新保护措施目前仅适用于由OpenAI产品生成的图像 [3] - 公司正在预览一个公共验证工具，该工具可检查上述两种信号，使用户能轻松测试图像是否由AI生成，该工具最初仅适用于OpenAI产品生成的图像，公司希望未来能扩展到覆盖其他工具 [3] 技术标准与合作 - C2PA（内容来源与真实性联盟）成立于2021年，是一家致力于减轻AI图像对公共话语有害影响的非营利组织 [4] - C2PA标准已被一系列Google产品采用，但在整个行业的采用情况仍不一致 [4] - 由于C2PA信号在文件元数据中清晰可访问，它可能被篡改，因此在可信用户中最有用 [4] - SynthID是旨在应对篡改的更稳健措施，由Google开发，其水印设计为即使恶意行为者试图通过截图、调整大小或数字处理来移除，也能持续存在 [5] - 这两个系统旨在相互补充，各自解决对方的弱点 [5] - OpenAI指出，水印能通过截图等转换更持久，而元数据能提供比单独水印更多的信息，两者结合使来源验证比任何单一层面都更具韧性 [6]