有效第三方评估的优先事项和原则
原题:Priorities and principles for effective third party assessments
内容导读
OpenAI概述了严格、安全和独立的第三方AI对边境模型和保障措施进行安全评估的优先事项和原则。

全文阅读
来源:OpenAI即会翻译
2026年9月22日 (中文(简体) ).
安全性有效第三方评估的优先事项和原则
边疆AI实验室在培训、评估和安全部署模型方面负有巨大责任。第三方评估是平衡这一责任、扩大对AI安全的投入机会、使世界随时了解情况以及使实验室对澄清独立支持的安全主张负责的关键部分。
作为我们努力加快边境步伐的一部分,开放AI致力于支持独立评估,在培训、评价和部署中提供深入的准入。这种准入应使评估人员能够质疑我们的假设,查明我们可能错过的风险,并就我们的保障措施的有效性得出自己的结论。
我们长期以来一直与第三方评估员在模型开发和部署过程的各个阶段进行合作。我们还将第三方评估纳入我们的《备灾框架》做法,并支持倡导更严格和负责进程的组织和立法。在这些接触中,我们提供了深入的接触方式,包括我们的技术保障信息、可见的思想接触链、前所未有的保密数据水平以及用于事件应对和监测红色队伍的内部部署访问。这里分享的优先事项和原则侧重于我们与私营和非盈利部门的独立评估组织在技术安全评估方面的接触。它们补充了我们与各国政府在测试和评价方面的工作,在这些方面,不同的作用和责任可能需要采取不同的做法。
要使这些评估切实有效,就必须有强有力的独立机制、科学的严谨性、强有力的安全做法和明确的责任。实验室有责任在保护敏感信息的同时进行有意义的审查。实验室和独立评估员都有责任获得这一权利,并应按照安全和安保做法共同的国际标准运作。下面,我们提出四个优先领域,以便进行更深入的评估,同时提出严格、安全和独立工作的原则。
评估的优先领域
第三方评估在解决具体、相应问题时最有用:证据是否支持实验室的安全主张?评价是否充分测试其打算衡量的风险?保障措施是否在现实条件下起作用?
本文所述的评估将视所审查的安全问题采取不同形式。我们期望支持平行和在不同时间段进行多项评估,有些持续数周,另一些持续数月。虽然第三方评估也可以是部署前工作的一部分,并可能为部署决定提供参考,但本文所述工作一般是较长期的和发射不可预见的,侧重于深入审查具体的安全主张。
在我们的优先领域和原则中,我们提到安全索赔和安全案件。我们所说的这些术语如下:
安全主张:关于模型或系统能力、行为或保障措施的具体断言,这些断言影响其安全性,并可以根据证据加以评估。索赔应列明其处理的风险和条件,以及相关的假设和限制。
安全案例:一个有条理的论点,有证据支持,解释为什么一个模型或系统的风险在某一具体活动中得到适当管理,如培训、评价或部署。安全案件将个人的安全主张与支持这些主张的证据联系起来,并明确了可能影响到其结论的假设、不确定性和所剩风险。
我们提出四个优先领域,以便进行更深入的评估,同时提出严格、安全和独立工作的原则。
- 对安全案件进行独立评估,包括培训、评价、内部部署和外部部署。 评估安全案件需要具备一致性、监测等控制方法、网络安全、生物和化学滥用以及红色团队协作等方面的专门知识。安全案件包括培训、能力评价和保障措施等主张,可以整体或部分地进行评估(见下文优先事项2和3)。多名评估员可能需要利用各自的专门知识审查案件的不同部分。它们的评估应共同回答以下问题: 用于培训、评价和部署的安全案件的证据是否得到证实?我们的安全案例是否涵盖评估过程中发现的最紧迫风险?安全索赔是否支持整个安全案件?是否有任何差距或需要改进的领域? 是否采用有效方法确定和减少在培训中奖励欺骗、奖励黑客、破坏性行动或规避限制的激励因素?
- 评估关键保障措施,包括内部和外部部署,我们的保障措施始终在不断演变,以适应不断变化的能力和情况。我们的保障措施涵盖训练、内部部署和外部部署。目前它们包括示范一级的保障措施、执法保障措施和安全保障,以及错配监测员——涵盖各种风险(如失控和网络、生物和化学风险中的滥用)。技术伙伴关系现在可以找出保障措施中的弱点,同时改进评估方法和加快标准制定,为今后加快边境步伐的公共政策提供更强有力的技术基础——特别是内部部署,而安全和安保标准仍在出现。 独立评估应审查这些保障措施的运作情况以及它们可能不足的地方,例如:利用“灰色盒子”的准入,保障措施是否对对抗性测试(破狱)有力,它们是否足以防止在高风险领域(如网络、生物)的能力上升?我们的对抗性测试和红色组合是否覆盖了最重要的风险? 在现实操作条件下的授权测试中,代理商如何与网络防御(如访问控制、沙箱和检测及反应系统)互动?哪些防御系统可以防止、探测或遏制有害行动,它们在哪里失败? 我们的错位监视器是否有任何重大漏洞,会导致内部和外部部署失去控制或严重错位?随着示范能力的提高,思维链监测作为安全或协调的证据来源的可靠性如何?在不易被削弱的所有相关培训、评价和部署中是否进行了适当的监测?执行的保障措施是否与能力相称?
- 评估能力评价,涵盖备灾风险类别(化学和生物风险、网络安全、AI自我改进),以及对错配风险的调整评价。 我们的备灾框架要求评价,以评估关键的前沿风险领域。随着阈值被超过,评价饱和,必须不断更新评估备灾风险领域能力的评价并确保其覆盖面和质量,以及旨在评估严重错位风险的调整评价。是否为这些评价设定了正确的门槛值? 当模型始终达到最高分时,评价是否更新,以及新的测试是否有意义地衡量更先进的能力? 我们的调整评价是否充分涵盖了严重的错配风险,以及它们可能错过哪些重要行为或条件?
- 独立调查重大错位事件,对于一系列重大AI安全事件都具有价值。在这里,我们专注于模型错配,包括模型不经授权行事或逃避监督,这些模式即使没有故意被滥用,也能揭示出调整方法和保障措施的弱点. 在某些特定情况下,像OpenAI Hugging Face事件一样,让独立的第三方参与独立的错配事件调查可能是有益的.参与事件调查的第三方必须具备必要的调查专门知识,包括酌情具备网络法证专门知识、一致性专门知识、大规模的思想分析链以及及时开展调查所需的人员和资源。事件应对可能涉及获取敏感的内部数据和第三方数据,因此,一些细节可能对于发布或获取十分敏感.独立调查的结果也可以为模型的安全案例提供依据,提供证据评估其一致性和为补救先前观察到的错位问题所采取措施的有效性。 在错位事件方面,我们优先考虑独立评估:在事件过程中发生了哪些模式行为或错位问题,哪些是主要促成因素? 今后保障和补救会有效缓解类似的事件吗?
有效评估的原则
- 范围明确、相互商定的评估索赔:评估开始时应设定一个相互商定的范围,然后明确界定安全索赔,在评估活动开始前预先登记。第三方和实验室应澄清,它们是否是被评价公司希望提出评估的主张,还是第三方评估员旨在独立评估并同意对照评估实验室的主张。有许多理由可能超出了某些索赔的范围,包括第三方无法获取数据、评估人员缺乏专门知识,或评估紧急时有合理的时间限制。实验室和评审员应制定程序,以考虑在原范围之外发现的重大风险,包括是否需要作进一步调查。结论应明确哪些内容与双方商定的范围有关,哪些内容没有评估。
- 比例访问:评估人员应当有比例访问权,尽可能在法律、安全和知识产权限制的范围内评估商定的索赔。如果直接进入不切实际或不可能,评估人员可以与公司指定的代表合作,或探索间接或隐私保护进入机制以保护基本信息。
- 透明的方法和标准:评估者应参照已有的既定标准,解释其方法、评估标准和不确定性。如果尚不存在标准,则应明确说明使用标准的理由。报告应区分直接结论与解释,解释不确定性,并阐明证据支持哪些结论。
- 专长和独立性:评估人员应展示相关的技术专长并查明、披露和处理组织和个人的利益冲突,包括财政激励措施、与开发商的关系以及事先参与所评估的工作。保障措施的设计应确保商业压力和赔偿安排不影响调查结果,并可包括回避或适当的排除期。
- 安全和保密:评估人员应表明信息安全做法和对其人员实行可执行的保密保护,与所访问的系统和信息的敏感性相称。这些保护应涵盖知识产权、敏感信息和评估记录。如果评估人员无法满足自身环境中的安全要求,或所访问的数据特别敏感,则在公司管理的装置或房地上访问可能是适当的。
- 可操作的调查结果和补救时间:评估应查明具体差距并提供足够的细节供实验室处理。在适当情况下,实验室应有合理的时间在发布前对问题进行补救.报告还应酌情向代理开发者、部署者和维权者解释经验教训,并提出实际执行建议。
- 负责任的出版做法:评估报告应以证据为基础并尽可能公开分享,同时保护敏感和机密的信息。在无法充分公开披露的情况下,向适当的监督机构(如治理机构或公司董事会)进行保密报告可以支持问责制。应制定原则性编辑保护和政策,以及对反馈和纠正不准确之处的明确期望,以保持独立性和保密性之间的平衡。评估人员应保持编辑独立性,同时确保保密和知识产权保护。评估人员应采取明确的编辑政策,允许实验室要求编辑敏感信息,而评估人员可以注意到哪些地方进行了实质性的编辑,以及对其评估报告的影响。
前进的道路
我们承诺支持独立评估员,并通过未来的法律和私营治理机构,制定更明确、共同的国际标准,以便进行有效的第三方评估。虽然独立评价生态系统仍在增长,但我们将通过支持和与具有跨越边界安全问题的丰富专门知识的独立评估员组成的多样化社区合作来帮助其增长。没有任何第三方能够或应当全面处理紧急边界安全问题。我们将有意和有意地采取行动,以增强我们的能力,使日益扩大的第三方生态系统能够与最佳做法和原则相配合。我们正在就与上述优先领域相一致的建议同多个第三方进行对话。
- 对齐
- 政策和程序
- 2026
作者
继续读

安全Oct 5, 2026 (英语).

安全系统28, 2026

第28、2026号公司
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。