我们对待欧盟文本出处规则的方法
原题:Our approach to EU text provenance rules
内容导读
关于文本出处的文章.

全文阅读
来源:OpenAI即会翻译
2026年10月5日 (中文(简体) ).
安全性我们对待欧盟文本出处规则的方法
在当今技术范围内促进透明度。
内容出处帮助人们了解内容来自何处,它是如何创建或编辑的,以及它是否包含与我们的模型相联的信号.我们已公开提供各种工具,今天,我们分享我们针对欧盟AI法案的文字标记方法,以及它如何融入我们更广泛的工作。
欧盟AI法案要求基因AI提供者以机器可读的方式使生成的文本可以识别.文字水标记和检测仍然是早期技术,具有重大局限性,关于这些技术的好处和负责任的用途的看法仍在形成。我们的分阶段做法既反映了欧盟AI法的要求,也反映了技术的局限性,强调文字水印能够和不能告诉人们的透明性:
- 从今天开始,全球API客户将能够选择为所选型号进行文字水印.在 API 中, 文本水标记默认会关闭 。
- 在未来几周里,我们将在欧洲联盟符合资格的ChatGPT和Codex文本输出中添加一个隐形水印.
- 我们开放了访问文字水印探测器的应用程序。访问最初将限于经认可的研究人员和专家组织,它们可以帮助我们评价和改进技术。 312. 上述仅适用于文字来源——我们用于音频和图像的核查工具,包括我们的openai.com/verify-QQ-web工具以及我们的内容证明API-X(在新窗口中打开),将继续供那些了解我们的一个系统是否生成了图像或音频文件的组织公开查阅。
我们的水印如何运作和发挥
我们的文字标注技术, 文字Grain, 在模型的文字选择中增加了一个隐形的统计信号 。我们的探测器寻找这个信号 来评估一个通道是否包含一个OpenAI水印。更多关于Grain作品的详情可见于我们的技术报告 * * * (在新窗口打开),该报告将在未来几周内更新,并补充更多细节。我们还计划以开放源码提供技术,以便其他人能够在此基础上更进一步。
在我们的评价中,文本Grain与我们测试的其他方法的性能相匹配或超过,包括文本合成ID。即便如此,在理想条件下的强效性能并不能保证在日常使用中可靠地被检测出.
探测器可以犯两种错误:它们可以报告一个没有水印的地方——一个是假正的,或者错过一个是假正的,一个是假正的.下文的评价说明了一些挑战:
- 文本更短或更受限制,更难被检测出.以1%的目标假阳性率,我们的探测器在200多孔的通道中发现了大约80%的水印,而400多孔的通道中则发现了大约95%的内容,如心理学.数学等内容的检测率要低得多,因为数学在文字选择上的灵活性较低。
- 编辑可以削弱水印.在对400个音节的通道的评价中,用同义词取代10%的单词将检测率从92%左右降低到66%.取而代之的是25%的词将它降低到17%.
这些限制促使我们决定只向经批准的研究人员和专家组织提供初步探测器,他们可以帮助我们评价可靠性和负责任的用途。
水标记对产出质量的影响
在评估我们最新的前沿模式Astra所使用的各项基准中,我们没有看到有意义的业绩差异,也没有水标记。
| 基准 | 未加水标记的文本( Astra, 最大) | 标有水印的文本( Astra, 最大) |
|---|---|---|
| 人工分析情报指数 | 49.57点 | 49.76点 |
| 自动化奔驰 | 34.09% | 34.86% |
| DeepSWE v1.1 (英语). | 72.80% | 71.68% |
| 终点站 - Bench 4.0 | 53.90% | 56.06% |
| 终端- Bench 科学 0.1 | 56.90% | 60.00% |
| 浏览comp | 87.92% | 87.35% |
| 专业 | 64.27% | 64.60% |
| GPQA 钻石 | 94.44% | 93.94% |
文字水印没有告诉你
文字水印对我们的系统在一段中发挥的作用提供了有限的信号。了解什么是无法从检测结果中得出结论的,
- 水印不能衡量人类的贡献。它可以表示OpenAI系统生成或处理了一段段落的部分内容,但不能表示人类的判断,编辑,或创造力投入到其中的多少.
- 水印没有确立所有权或责任。它不能确定案文的所有人、其使用是否合法、是否要求披露、或由谁负责。
- 水印不能识别用户 。它不把一个人、组织、帐户、即时或谈话与案文联系起来。
- 水印不能验证准确性 。它没有告诉你一段话是真实的,误导的,有害的,还是用正确的语境呈现的.
- 缺乏被检测出的水印并不能证明人类的著作权.使用OpenAI工具生成的文本可能太短,编辑,或被翻译,以便检测到无法可靠工作.也可能来自一种未经支持的模型,即水标记之前的模型,或是由另一家公司的工具所生成的.
我们接下来的步骤
- 在欧盟推出文字"水上标记".未来几周,我们将仅在欧盟所有计划中向符合资格的ChatGPT和Codex用户引入文字水印.我们不会在发射时将文字标注为全球默认值。这种区域办法使我们有从现实世界的使用和反馈中学习的余地。
- 允许API客户选择入水标记.从今天开始,世界各地的API客户将能够选择为所选模型选择有水标记的文本输出.这使客户可以决定水标识如何符合其透明度义务和向用户提供的经验。我们还正同云伙伴们合作,为OpenAI模型产出提供水标记,以便在今后几周内通过它们的服务获得。
- 向研究人员和专家组织提供探测器。经批准的研究人员和专家组织从今天起可以申请.根据《业务守则》,将首先视具体情况允许进入,以支持评价和改进文本出处。该工具将报告它是否检测出OpenAI水印,而不识别用户或披露其提示或对话.鉴于水印和假阳性有丢失的危险,我们不会在发射时公开公布。
我们期望随着技术、标准和证据的发展,重新审视这一方法的每一部分。
我们对于内容出处的更广泛方法
没有一种单一的出处技术本身就足够了,所以我们采取分层的方法,把开放的标准,持久的水标记和核查工具结合起来.
我们在所支持的图像输出中添加了内容证书,是 C2PA 符合 QQ (在新窗口打开), 将隐形 SynthID QQ (在新窗口打开) 在所支持的图像和音频中嵌入水印, 通过openai.com/ verify QQ和我们的Content Provenance APIQQ (在新窗口打开)提供图像和音频验证.这些技术相互补充:Content Consultation可以记录文件的出处和历史,而隐形水印可以在去除元数据时保存一个信号.
正如我们在选举保障工作中所描述的,来源可以帮助人们和平台评估AI产生的潜在误导性内容,包括深刻的假象.我们把这些信号与政策、虐待的发现、报告、调查和执法联系起来,并与研究人员、标准机构、平台和民间社会合作,使来源在更广泛的生态系统中发挥作用。
将出处扩展至文本需要说明它如何容易被改写、翻译或编辑。正如我们在6月份所讨论的那样,我们的方法必须反映目前技术的实际局限。研究水印如何承受编辑和翻译, 并探索如何更有意义地区分人工智能协助与人工智能作者身份。我们将会随着证据、标准和监管要求的演进而调整我们的方法, 并在我们认为结果可以负责任地解释时扩大探测器的获取范围。 更多信息,请访问我们的帮助中心文章QQ(在新窗口打开 ) 。
继续读

安全系统28, 2026

第28、2026号公司

全球事务Sep 23, 2026
其他来源的站内全文
独立报道 · 非 OpenAI 官方原文原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。