破坏协调的示范化消化运动
原题:Disrupting a coordinated model-distillation campaign
内容导读
了解OpenAI如何打乱了一场提取受保护模型推理的运动,并正在加强防御对抗分解.

全文阅读
来源:OpenAI即会翻译
2026年9月30日 (中文(简体) ).
警卫破坏协调的示范化消化运动
我们最近确定并中断了一场协调的运动,旨在从我们的模型中提取受保护的推理,最早观察到的活动发生在7月的第一个星期。这项活动与对抗性的分解是一致的:系统和未经授权地利用一个模型的输出或推理来帮助训练、复制或改进另一个模型。受保护的推理是该模型在完成某项任务时的内部记录;取出它可以揭示从最后答案中扣取的信息并帮助其他人复制该模型的能力.
操作员没有破坏我们的加密, 破坏一个数据库, 或者直接访问存储的用户对话。相反,它们操纵了模型互动,这样,受保护的推理可以以请求者能看得到的形式,以协调、规模化的方式复制,从而违反我们的服务条款。这种操纵并不是OpenAI模式特有的弱点,我们通过边境示范论坛与行业伙伴分享了这方面的信息,以加强集体防御,防止对抗性的分解。
在出版前,我们调查了范围和潜在影响,部署了我们自己的缓解措施,并与研究人员和行业伙伴分享并接受它们的反馈,以确保防范这类攻击的措施到位。进一步的缓解和调查工作正在继续。我们认为,分享我们现在学到的知识将有助于更广泛的生态系统加强防御。
我们所观察到的
我们看到运营商试图以新颖的方式取出受保护的推理,包括从一次谈话中复制加密推理,并请求另一个谈话中的一个模型来解密并转录隐藏的推理内容.
独立安全研究者QQ(在新窗口打开)也通过负责任的披露,使我们注意到相关的跨模型和对话协作弱点。我们调查了他们的调查结果,确认他们确定的攻击路线是真实的。他们的工作帮助我们了解更广泛的攻击类别并加快了减缓速度。
活动于7月1日开始,最初是低量,直到7月24日和25日观察到了由16 000个请求组成的高量突起,1 使用了来自4 000多个用户的相关提取模式。进一步调查发现,在超过15 000个用户的集群中,出现了相关的迅速活动,到7月28日,我们完全中断了这些活动。
这一活动随着时间推移而演变,强化了对抗分解是一个更广泛的安全挑战,需要分层的、适应性的防御。
我们的归属评估
目前还不清楚我们在相关时期观察到的所有操作人员是否都来自一个单一的行为者。然而,我们把活动的核心集群归结为与月光AI相关的个人,基米的开发者.
为什么这很重要?
横向蒸馏对安全和国家安全造成风险。可以采用摘录的推理来训练另一种模式,而不必保留适用于原模式的用户化产出的保障措施。在规模上,蒸馏也可以加速先进能力的转移而不需要同样的安全投资.随着模型在双重用途领域获得能力,这些关切变得更加突出。
这一风险并非OpenAI独有.如上所述,类似的技术可能会影响其他先进的AI系统,使这成为共同的安全挑战,需要整个行业的协调.
我们如何回应
我们通过账户执行、技术管制和伙伴协调等综合措施,缓解了最近的这一蒸馏运动。我们禁止或限制欺诈性账户,加强注册和基础设施控制,并扩大了对相关网络的监测。
我们还加强了对用户、工作场所、组织和模范家庭之间的隐藏推理的保护。我们关闭了一条路径,让已经拥有另一个用户加密推理的人可以重放并恢复其内容,并添加检查以检测和持有可能暴露推理的流出输出.当相关活动通过第三方服务进行时,我们与这些供应商合作,以查明和打乱所涉账户。
最后,我们通过边境示范论坛和适当的政府信息共享渠道分享了相关结果,以便其他边境开发者和公共部门伙伴能够寻找类似的活动,加强自己的防御。支持便携式或可重放推理文物的系统可能面临相关风险。
接下来会发生什么?
我们期望随着前沿模型的改进和行为者寻找更廉价的方法来模仿他们的能力,对抗性的蒸馏尝试将变得更加精密.防止这种活动需要分层控制和不断调整。
这项工作尚未完成。伙伴托管的部署需要与第一当事方服务相同的保护,而工具输出攻击需要审查比普通可见文本更多的保护。我们正在继续改进工具防御、分类覆盖、模式拒绝和在云伙伴中推广相关控制。
我们的对策将继续以三个领域为重点:加强防止开采的技术保护,更好地发现和强制执行协调一致的运动,并深化行业和政府之间的威胁信息共享。
- 2026
作者
脚注
- 1 这些数字描述了试图提取,但不一定成功。
继续读

安保Sep 3, 2026

安全系统1, 2026
2026年8月26日,纽约
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。