核心观点 - OpenAI将在欧盟为ChatGPT和Codex生成的文本添加不可见水印以遵守欧盟人工智能法案 [1] - 欧盟人工智能法案的透明度规则于8月2日生效，要求人工智能公司以其他系统可识别的方式标记人工智能生成内容 [1] - 水印并非实际符号，而是通过微妙调整模型用词选择留下人类读者不可见但检测器可识别的模式 [3] - 水印存在于文字本身，因此当文本被复制粘贴时会随之传播 [3] - OpenAI表示水印不会识别用户身份，且开启后模型性能未见有意义的变化 [3] 水印部署范围与时间 - 水印将在未来几周内向欧盟所有套餐的合格ChatGPT和Codex用户推出，但仅限于欧盟地区 [2] - 全球任何地方使用OpenAI API的开发者可从今日起为选定模型开启水印功能，该功能默认关闭 [2] - OpenAI表示在发布时不会将文本水印设为全球默认 [2] 技术方法 - OpenAI同时发布了名为textGrain的方法技术报告 [4] - 该报告与宾夕法尼亚大学和耶鲁大学的研究人员合著 [4] - 报告展示了使用密钥对下一个词预测进行排序以完成句子的示例 [4] - 将数百个此类微调叠加后，检测器仅使用文本和密钥即可识别人工智能生成内容 [4] 水印局限性 - OpenAI测试表明水印可通过编辑去除 [5] - 在一项测试中，将10%的词语替换为同义词后，检测率从约92%降至66% [5] - 短段落、数学答案和翻译文本更难被检测 [5] - 公司表示这些局限性促使其决定仅向经批准的研究人员和专家组织提供初始检测器访问权限 [7] - OpenAI警告水印缺失不能证明人类作者身份，文本可能过短、被大量编辑或来自其他公司的人工智能 [8] - 水印可表明OpenAI系统生成或处理了段落的一部分，但无法说明其中包含多少人类判断、编辑或创造力 [8] 行业竞争动态 - 该公告发布两个月前，Anthropic表示将为Claude生成的文本添加水印，并在全球范围内应用 [9] - 该决定引发部分Claude用户反对，认为他们提供了指令、上下文和决策，而Claude只是工具 [9] - 据华尔街日报2024年报道，OpenAI此前已构建文本水印但推迟发布，部分原因是担心用户会转向不加水印的竞争对手 [9] - Anthropic、谷歌、Meta、微软和OpenAI等公司已承诺遵守欧盟人工智能生成内容实践准则 [10]