OpenAI 将在欧盟为 ChatGPT 文本添加水印
原题:OpenAI will start watermarking ChatGPT’s text in the EU
内容导读
OpenAI 将在欧盟为 ChatGPT 和 Codex 逐步加入不可见文本水印,以响应欧盟 AI 法案;API 开发者可选择为部分模型开启,检测对短文本、改写和翻译内容仍有局限。

全文阅读
来源:TechCrunch即会翻译
OpenAI 周一在一篇博客文章中表示,为遵守欧盟《人工智能法案》,将为 ChatGPT 和 Codex 生成的文本添加不可见水印。
欧盟《人工智能法案》的透明度规则于 8 月 2 日生效,要求 AI 公司以其他系统能够识别的方式标记 AI 生成内容。
OpenAI 称,未来几周水印将逐步面向欧盟境内符合条件的 ChatGPT 和 Codex 用户推出,适用于所有套餐,但仅限欧盟地区。全球各地使用 OpenAI API 的开发者从今天起可以为部分模型开启该功能,默认关闭。OpenAI 表示,发布初期不会把文本水印设为全球默认功能。
水印不是可见符号,而是通过细微调整模型的选词留下一个读者看不见、检测器可以识别的模式。由于信号嵌在文本用词中,即使复制粘贴也会保留。OpenAI 称水印不会识别用户身份,开启后对模型性能也没有显著影响。
OpenAI 还发布了名为 textGrain 的技术报告,介绍这套方法。报告由宾夕法尼亚大学和耶鲁大学的研究人员共同撰写,并举例说明如何使用密钥对模型预测的下一个词进行排序,从而完成句子。将数百次这样的微小调整累积起来后,检测器便能仅凭文本和密钥识别 AI 生成内容。
编辑能去掉水印吗?OpenAI 的测试显示可以。在一项测试中,把 10% 的词替换成同义词后,检测率从约 92% 降到 66%。OpenAI 还表示,短文本、数学答案和翻译后的文本更难检测。
OpenAI 表示:“这些局限促使我们决定,初期仅向获批的研究人员和专业机构开放检测器,让他们帮助评估其可靠性和负责任的用途。”
OpenAI 还提醒,未检测到水印“并不能证明内容由人类创作”。文本可能太短或经过大量编辑,也可能由其他公司的 AI 生成。
OpenAI 表示:“水印可以提示 OpenAI 系统是否生成或处理过一段文本,但无法说明其中有多少人类判断、编辑或创造力。”
这项公告发布前两个月,Anthropic 宣布会为 Claude 生成的文本添加水印,并计划在全球范围内实施。此举引发部分 Claude 用户反对,他们认为“指令、背景和决策”由自己提供,Claude 只是“工具”。
《华尔街日报》在 2024 年报道称,OpenAI 此前已经开发过文本水印,但由于担心用户转向不添加水印的竞争产品等原因,暂缓了发布。
Anthropic、Google、Meta、Microsoft 和 OpenAI 等公司已承诺遵循欧盟关于 AI 生成内容的行为准则。
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。