AI政策窗口开放.我们必须采取行动
原题:The AI policy window is open. We need to act.
内容导读
Chris Lehane认为,加强AI能力需要更有力的安全证据、共同标准和持久的政策行动,而政策窗口却依然开放。

全文阅读
来源:OpenAI即会翻译
2026年9月9日 (中文(简体) ).
全球事务AI政策窗口开放.我们必须采取行动。
由OpenAI公司全球事务主任Chris Lehane编写
需要为人工智能政策翻出一页。任何公司、工业或政府都无法单独应对这一挑战。我们需要面对这一时刻,偏向于采取有意义的行动而不是政策完美。
我们正这样做:
- 推进强制性国家AI安全要求.我们想与国会合作,制定强制性的,基于能力的AI国家安全条例.
- 保持各州的势头。在国会采取行动之前,我们将继续支持加强更广泛的AI安全生态系统的州立法。今天,我们宣布支持四项加利福尼亚法案:关于独立安全评估总体基础设施的SB 813、关于AI-审计标准的AB 1405、关于保护年轻人的SB 1119和关于防范AI驱动的生物威胁的AB 1864。
- 推进行业主导标准建设.我们将与其他前沿实验室合作,推进前沿AI标准,现在,无论是否得到政府支持,都要开展自愿努力。
- 建立全球标准。我们将倡导采用相容的国际方法,衡量能力、管理风险、维护人类控制,并确定发展应何时和如何减缓或停止,即使这意味着减缓示范能力的发展。
我们的首席科学家帕霍克(Jakub Pachocki)最近写道,机器智能的迅速崛起,包括自我递归的潜力,要求“高度谨慎 ” 。 OpenAI将继续寻求技术解决方案,以调整和监测,建立防御系统,并在必要时减缓发展速度。但是,单个实验室内部的技术工作是不够的。我们还需要共同的标准,包括有关发展应何时减缓或停止的标准。
事关重大。高级AI可以加速新药的开发,加强关键基础设施,扩大经济机会,帮助解决阻碍人类世代努力的科学问题。但是,使模型更有用的能力也带有风险,它们不会局限于少数前沿实验室。世界各地开发的模型,包括开放模型,将日益接近今天的前沿,并广泛提供。
Astra的能力,AI驱动的研究加速的早期证据,和Jakub的散文都指向了同一个方向:AI正在快速地前进,政策需要随之而来.
Greg Brockman描述了一个“防御窗口”(在新窗口打开):在强大攻击能力普及之前,边境AI可以帮助维权者加强关键系统的一个有限时期。决策者面临一个类似的时刻:在大赦国际的能力超过负责管理这些机构的机构之前,建立一个建立持久保障的窗口。
随着能力的增长,对安全的信心必须日益加快AI的进步步伐.安全并不妨碍进步;正是安全才能使进步更进一步,使更多的人受益。
我们加强了整个模式发展生命周期的监测、协调和安全保障,包括加强前沿研究工作量的隔离,在工具化培训和评估期间扩大对模式行为的监测,以及更明确地规定何时使关切升级。就阿斯特拉而言,我们还引入了对包括思维链在内的全轨迹进行普遍监测的做法,以及在更广泛的内部部署之前必须有一个调整评价闸门。
这些保障措施必须继续超越能力。当程序将构成不可接受的安全风险时,我们将像我们以前所做的那样,按照我们的备灾框架(在新窗口打开)的要求,减缓或停止开发或部署我们无法充分保障的系统。
准备进行递归自我改进
完全自主的自我改进——其中AI系统独立地驱动着一代又一代越来越有能力的AI——今天还没有发生。我们不应继续追求这一目标,除非而且直到它能够安全地实现。
然而,大赦国际已经在加速进行用于开发下一代模型并使其一致的研究工作。我们最新的研究显示,人工智能特工可以执行一些需要熟练研究人员几天的任务。这不是递归自我改进,而是旅行方向的证据.
这种加速能够而且必须面向安全。我们的目标是安全地建立自动化的AI研究人员,在人类的监督下工作,以推进深刻的学习和校正,利用每一代AI来帮助使下一代更安全,更一致,更易于控制,而不是简单地提高能力.
各国政府应制定共同办法,衡量这一进展,维护有意义的人类控制,并设立共同的安全栏杆,说明何时以及如何使发展放慢或停止。如果我们不能满足某些安全栏而不减缓能力增长,我们就应当优先考虑前者。技术的威力越大,周围的保障措施就越要强大。
与国会合作制定强制性的国家AI安全要求
AI加速发展的前景要求的不仅仅是自愿承诺。美国需要强制性的、以能力为基础的国家规章,这种规章可以随着技术的发展而发展。
我们的边境民主治理蓝图(Frontier AIQQ)为建立持久的联邦框架指明了一条道路:共同的测试和独立评估要求,更强大的网络安全保护,明确的事件报告规则,更强大的国家准备,以及追踪实现递归自我改进进展的共同措施。
国会目前正在提出几项严重的边境安全建议。我们将继续建设性地参与,并期望支持实质性地提高安全标准的立法。如此之高的利害关系,我们不能让完美成为好人的敌人.国会在休会前应采取行动。
国家框架应当有力,但目标应当谨慎。边境安全要求应适用于少数资源充足的实验室,这些实验室开发的系统能力最强,而不是新生企业、小型开发商或不在边境附近开展业务的研究人员。义务应与能力和风险相称。
边境安全政策也不应成为另一个名称的开放加权政策。开放模式可以成为解决方案的一部分,特别是在网络安全方面,在主权、安全或数据居住需要优先在当地部署的地方。多数人不是在边境上竞争,而是在成本、控制和延迟方面竞争。正如我们在签署"开放重量"和美国AI领导字母"(在新窗口打开)时所申明的,美国需要开放和封闭的模型.联邦框架应处理前沿能力和风险,同时不削弱竞争、巩固现任者或推动海外创新。
一个严肃的公共框架应该减少而不是增加权力的集中。今天,边境实验室基本上制定了管理边境风险的规则。民主问责的标准、独立核查和有意义的透明度将取代这种支离破碎的私营治理制度。
这对美国的领导至关重要。美国不能单靠能力来赢得AI时代.如果人民、机构和政府不相信技术足以采用,那么在技术上领先就毫无意义。强有力的保障措施不是反对创新的让步。它们是广泛采用以及美国长期领导所需的基础设施的一部分。
保持各州的势头
我们迫切需要AI的国家标准,在边境工作的人都能看到这种紧迫性。在国会采取行动之前,各州应继续采取行动来填补真空并提升律师资格。
OpenAI支持加州的SB 53,纽约的RAISE法案,伊利诺伊州的SB 315,以及马萨诸塞州正在审议的边境安全立法的独立审计.我们鼓励各国围绕这些共同保障措施达成共识。国会最终可以编纂一个事实上的国家基线,但是,协调并不意味着已制定冻结要求。
今天,我们正式批准了另外四项加利福尼亚法案,这些法案已经通过了立法机构,并正在前往州长Newsom。它们共同涉及人工智能安全生态系统的互补部分。
SB 813 ⁇ (在新窗口打开)将建立一个程序,指定有能力评估AI风险的合格、独立的组织。正如我们在“新窗口的开放”边境安全蓝图中指出的那样,我们更希望联邦一级需要独立的技术评估,决策者可以制定统一的评估人员资格、安全和获取高度敏感信息的标准。然而,在没有联邦行动的情况下,加利福尼亚州可以帮助制定道路规则,以便建立一个安全、有能力的国家独立评估系统,从而产生更好的安全结果。
AB 1405 ⁇ (在新窗口开放)将为AI审计员创造注册、独立、透明和问责要求。
SB 1119-X(在新窗口开放)将需要年龄保障、风险评估、独立审计、父母控制以及防止使用同伴聊天器的儿童和青少年有害内容的保障措施。我们最近表示支持这项法案, 该法案基于青少年安全措施, OpenAI通过我们的产品、全球政策原则、支持父母与孩子安全AI法案(在新窗口开放),
AB 1864 ⁇ (在新窗口打开) 需要基因合成提供者和长凳合成设备制造商遵循联邦筛选标准,加强一个重要的物理保障,防止AI驱动的生物威胁.
其中一些法案我们过去没有核准,而且鉴于最近我们所看到的能力的提高,现在在重新考虑后予以支持。
这些法案不能取代联邦条例.它们是认真的努力,现在可以保护人民,显示可行的保障措施是什么样子,并帮助建立联邦行动的势头。
要求行业标准监测前沿AI
仅靠法律并不能保证高级AI的安全。我们还需要在实验室内采取具体做法,发展最能胜任的系统。最紧迫的起点是监测。
这对于错位尤其重要,当一个模型以违反人类意图或既定界限的方式追求一个目标时,而不需要意识或恶意。随着模型获得更大的自主性,使用更强大的工具,并在更长的时间内运行,应该要求开发者对这些错位行为进行监测并表明有效的保障措施已经到位.
监测必须与明确的披露要求相挂钩。正如我们在加利福尼亚州所主张的,当公司的模式在开发或评价期间未经授权而绕过另一组织的安全控制,并在物质上获取、改变或破坏该组织受保护的系统或机密信息时,应要求公司向受影响方迅速提供书面通知。我们还支持关于其他严重AI事件的联邦报告要求,并正在努力确定应涵盖哪些事件以及这些要求应包含哪些内容。
正如我们上周分享的那样,OpenAI正在制定一个框架,用以报告随后发生的错位事件并系统地监测边界模式活动,包括内部使用。这项工作从公司牵头开始,但我们希望它能有助于为更广泛的联邦政策和报告要求提供参考。
我们想与其他实验室合作,研究行业主导的标准.任何由行业主导的标准都将补充而不是取代强制性的联邦保障和民主监督。但我们已经进入了AI能力的不同阶段,一切都应该摆到桌面上——包括考虑在政府之外自愿建立什么作为立即步骤。
任何此类标准最终也必须超越国界。模式、研究和技术专门知识在全球移动,涉及最能的系统的失败可能产生远远超出其开发国的后果。美国需要在国内建立可信的标准,这样它才能在国际上发挥领导作用——我们越来越相信,相容的国际标准是必要的。
使用窗口
AI政策窗口暂时开放.我们打算用它。
这意味着以紧迫、谦卑和愿意适应的态度采取行动。这意味着支持在实质上提高安全栏的严肃建议,即使这些建议并非我们本来会设计的。这意味着随着技术的发展,加强这个框架。
没有第一步是完美的。但是,更大的风险现在等待太久,无法承受。
- 2026
- 原因和政策
作者
继续读

全球事务Sep 30, 2026

全球事务Sep 23, 2026

全球事务Sep 23, 2026
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。