OpenAI 将在欧盟为 ChatGPT 文本添加水印

OpenAI 周一在博客文章中表示，为遵守欧盟《人工智能法案》，将开始在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印。 欧盟《人工智能法案》的透明度规则已于 8 月 2 日生效，要求 AI 公司以其他系统可识别的方式标记 AI 生成内容。 OpenAI 表示，水印将在未来几周内面向所有套餐中符合条件的 ChatGPT 和 Codex 用户推出，但仅限欧盟。全球任何地方的开发者即日起可在选定模型上通过 OpenAI API 开启该功能；该功能默认关闭。OpenAI 表示，推出时不会将文本水印设为全球默认。 水印并非实际符号，而是通过微妙地影响模型的选词，留下读者无法看见、但检测器可以识别的模式。由于它存在于词语本身，文本被复制粘贴时，水印也会随之迁移。OpenAI 表示，水印不会识别用户身份，并且开启后模型的性能没有明显变化。 OpenAI 还随公告发布了其方法的技术报告，名为 textGrain。该报告与宾夕法尼亚大学和耶鲁大学的研究人员合著，举例说明如何使用密钥对下一个词的预测进行排序以完成句子。将数百次这样的微调叠加起来，检测器仅凭文本和密钥即可识别 AI 生成内容。 水印能否通过编辑去除？OpenAI 的测试表明可以。在一项测试中，将 10% 的词语替换为同义词后，检测率从约 92% 降至 66%。该公司还表示，短段落、数学答案和翻译文本更难被检测。 该公司表示：“这些限制促使我们决定，初期仅向经批准的研究人员和专家组织开放检测器访问权限，他们可以帮助我们评估可靠性和负责任的使用。” OpenAI 还警告称，缺少水印“不能证明文本由人类撰写”。文本可能太短、被大幅编辑，或来自其他公司的 AI。 该公司表示：“水印可以表明 OpenAI 系统生成或处理了某段文字的一部分，但无法说明其中包含多少人类判断、编辑或创造力。” 此次公告发布前两个月，Anthropic 曾表示将为 Claude 生成的文本添加水印，并在全球范围应用。这一决定引发了一些 Claude 用户的反弹，他们主张自己提供了“指令、上下文和决策”，而 Claude 只是“工具”。 据《华尔街日报》2024 年报道，OpenAI 此前已开发过文本水印，但推迟发布，部分原因是担心用户会转向不添加水印的竞争对手。 Anthropic、谷歌、Meta、微软和 OpenAI 等公司已承诺遵守欧盟关于 AI 生成内容的实践准则。