永恒的补丁
原题:The eternal complement
内容导读
对于突破思想背后的日常工作来说,高级AI可能最为重要.探讨为什么执行可以决定下一个经济和进步的速度.

全文阅读
来源:OpenAI即会翻译
情报时代
永恒的补丁
为什么天才机器会证明 它们在单调工作上的最大价值
由赫曼斯·阿西尔瓦特姆和艾略特·莫克斯基主演

作者们的笔记:这是我们系列关于下一个经济的首篇论文,它反映了我们的观点,而不是OpenAI或我们的同事的观点。
人类几乎在时间的开始就已经看到了。
我们的方程式从最初的瞬间就对宇宙进行了一致的描述.我们用望远镜观察宇宙的伸展范围,并浏览其早期历史。我们知道恒星的诞生和星系的形成。
然而,从来没有人穿越过月球。
我们所寻求的解释 横跨了宇宙, 而我们的身体 几乎没有离开家。我们的心灵冒险 远超出我们的手。
这种不匹配可能意味着两个非常不同的东西。
一种可能性是,我们不需要走太远,最深层的真理可能来自一个星球。我们带着开明的推理和高效的仪器,在不穿越宇宙的情况下揭示出宇宙.在这个故事里,我们的文明通过深度而不是宽度来进步.这会帮助解释为什么我们没有看到其他的智慧生命:我们可能生活在一个充满聪明头脑的银河系中,而这种头脑从来不需要扩张,并且变得对我们来说是引人注目的。
第二种可能性是更令人害怕。我们的头脑可能已经超出我们的执行能力。下一步的每一个步骤都需要更多的时间和资源。我们并不缺乏梦想,但我们缺乏实现梦想的人力。
伽利略用两道镜和一管子 把我们的视线拓宽了为了今天再次拓宽它,人类建造了詹姆斯·韦伯太空望远镜,一个价值100亿美元的天文台折叠在火箭内并送出一百万英里外.它的十八个巨大的镜面段被设计成50纳米的精度.该观测站来自14个国家的300个组织。伽利略的贡献需要数十只手。Webb需要一支军队,需要全球经济的支持。
不仅需要更聪明的头脑才能更深入地看到。这需要更大的官僚机构。

进展需要支助系统
我们质疑的比调查的多我们设计的实验比我们跑的多我们梦想创造的可能性比我们想象的要快跨越许多领域:我们进步的越快,建造我们想象的东西就越复杂。
Nick Bloom和他的合作作者QQ(在新窗口打开)研究了整个美国经济的研究生产力.维持摩尔的法则现在需要的研究人员是20世纪70年代初的18倍多。整个经济的有效研究工作比1930年代增加了23倍,而衡量的研究生产率下降了41倍。
技术人员队伍的增长速度是科学家的两倍。40年来,科学领域专门设备的使用量翻了一番。与30年前相比,
这些统计数字暗示了进一步取得进展的成本不断上升。由于研究企业的大量增加弥补了每个单位的收成下降,所以经济仍然有所进步.
进展的要素
这种历史应该使我们对天才有不同的思考:不是在真空中考虑,而是作为对生产过程的一种投入。一个辉煌的假说仍然需要证据,仪器,以及执行它的手段.却还无法实现。
经济学家称,当更多的投入提高另一投入的价值时,有两项投入是相辅相成的。从这个意义上讲,边界情报和实现其想法的能力是相辅相成的。更好的望远镜使一个好的天文问题更加有价值.一个更好的问题让望远镜更有价值.
某些补充物是物理的。一个理论在粒子加速器上等待;一个技术设计在等待能量和机械来建造.
其它补充物更难用你的眼睛看到。一个想法,单靠自己,是一件很脆弱的事。它需要各种机构。法律、官僚主义、供资机制、供应链,以及其他许多方面都聚集在一起,执行这一想法。
一个伟大的想法必须活过这些机构中一系列正确的地方行动。称这机构情报:处决的未速报情报.天才设计了纪念碑; 机构铺出石头.一个是聪明的,另一个似乎是无聊的;两者都绝对关键。

我们有时会把超智能想象成十亿的爱因斯坦.但拥有十亿个爱因斯坦的文明 仍需要他们中的大部分人 来开采采石场和管理会计边界创新只有在正常世界周而复始的情况下才能发生。进步要求每个人——从望远镜里用螺丝焊接机,到保险商,为一所小学提供教育,让一名护士治疗天文学家。进步建立在我们最伟大的成就故事中经常忽略的蜂鸣经济之上。
与人类智慧一样,AI也会被引导到卓越的洞察力和机构能力上.问题在于它将花在哪些时间里。
今天的瓶颈
AI已经在减少处决的稀缺性。它会写代码,搜索不熟悉的文献, 把素描变成工作原型.曾经需要整个组织的想法,越来越可以由一个雄心勃勃的人来追求。
大多数有志向的电影制片人 从来没有得到两亿美金来拍摄他们的镜头。大多数游戏设计师将整个职业生涯都花在了执行他人的创意愿景上.我们试图提升最有天赋的人,但我们不可避免地错过了人才。从这一角度出发,情报时代始于补充人类的智慧,给我们更多的支持人员来建立我们自己的思想。
这可以产生大量特异性项目,在以前担任这些领域工作的守门员的机构之外产生更多的创造性工作。很少的投入从执行转向品味——能够决定什么值得做,哪个问题值得问,以及一千个可能的方向中哪一个值得追求。
但是,这也许不是故事的结尾。随着大赦国际越来越有能力就其自身——我们可能在数学领域——提出新的深刻见解,它既能提供议程,也能提供劳动力。它不执行一个人类研究方案,而是设计出数千个自己的方案。AI天才爆出值得开发的电影概念数量和值得测试的假说.设想比支持基础设施能够吸收它们的速度要快得多。
今天的AI提供了一个期待已久的缓期执行,我们的良好想法终于得到了他们应得的待遇.明天可能有很多好想法,以至于我们比以往任何时候更加渴望处决。
两种文明
我们最终不知道,为有效利用新的见解所需的补充是否会增加、缩小或保持稳定。一个人单独思考可以取得多少智力进步?英明的官僚主义需要多少?
我们认为,答案取决于在必须同现实进行新的接触之前,可以进行多远的思考。
我们描述了两个潜在的路径。第一个是深度的文明,其中超级智能超越了对更多实体资本和官僚管弦乐的需要.第二是宽度的文明,在这种文明中,自然的复杂性超过了任何智力——人或机器——在现实世界中不进行大规模和日益细致的试验而取得进展的能力。
人类历史表明,迄今为止,对补充能力的需求日益增加。伽利略的望远镜在他手中。 Webb需要文明。一个小的贝尔实验室团队在工作台上组装了第一个晶体管;前沿芯片的推进现在来自一个复杂的全球供应链。进一步拓展不断在背后招募更多的文明分子。
但这一历史不必是命运。聪明的头脑可以发明出更有效率的补充.如果能量瓶颈 一个新的粒子加速器, 光辉可以设计一个更精细的加速器 或者更好的方法 来收取能量。
天才也可以取而代之的是它的一些补充.爱因斯坦能够从极少的经验数据中去想出他的相对论方法.我们需要更多的。有些人只记得他们的所有约定,
而天才可以使口味最大化,选择最好的假设来测试并避免浪费的失败.如果每个额外的天才都提高计划的质量,即使需要更大的官僚机构,我们仍会大量投入到天才身上,正因为处决如此昂贵而浪费在错误的事情上.
两者都不能完美地描述我们的实际未来,但它们可以被认为是我们文明的两个方向可能性。
深渊的文明
智能以三相相相能出成就知识.它可以从原则出发。它可以从现有证据中吸取新的见解。或者它可以通过观察和干预世界来收集出新的证据.

第一个模式可以独自远走高飞。数学是最纯洁的例子.在证明或项目的许多十字路口,一个强大的头脑可以不断发出正确的呼唤.它用一个简短,更直接的推理链取代了多年的花花式搜索.
第二种模式也是快速进步的绿地.人类收集的证据远远超出人们的理解。我们的数据研究——天文图像、显微镜幻灯片、在线评论部分——由于人类智力的匮乏而受到限制。科学档案载有一些记录下来的观测资料,以回答一个可能回答许多其他问题的问题。富足的天才不能通过收集任何新东西来发现,而是通过看到已经存在的东西来发现.它可能在没有收集到新光子的情况下找到一个新的宇宙.
第三个模式并不容易,物理过程需要时间,而且往往很少能够加快这些过程。化学品必须作出反应。生机必须增长.必须建造机器。航天器必须跨越实际距离,但须遵守宇宙速度限制。即使一个完美的心灵也无法观察一个没有发生的实验的结果。
但它可以尝试。一个深层次的文明不会逃避了解现实的需要。这样做将变得非常经济。更好的推理可以识别真正重要的少数实验.模拟将解决大多数问题,并查明必须解决的准确不确定性。超级智能可以最大限度地提高效率,围绕其稀缺的资源来设计,以获得最大的利用.
想象一个天体物理实验室 里面有一套关于暗物质的假设这些是首先通过超现实主义的计算机建模来避开的.检查每一种理论是否与所有现有数据一致。只有经过这一切之后,才有几张针对天空的新镜头,用来测试最有希望的理论。文明仍需要天才的补充,但每个单位产生的价值要高得多。
我们走向深渊文明的道路可能像拼图一样发挥作用。进步起步易取,起步易取,起步难取.起初有明显的边缘和容易相匹配.然后这些都用光了,而画面的组装太少,无法引导其余部分.接近尾声时,剩下的缺口几乎告诉你其中的归属.几乎完整的科学可能发现它的最后发现 比我们今天所奋斗的要容易得多。
这是科学的主干道。Mendeleev可以描述未发现的元素,因为周期表的其余部分限制了所缺少的内容.标准模型给了物理学家一个理由,让我们在观测到希格斯波森数十年来就预见到了它.我们的实验旨在寻找我们所期望的——与现有理论和数据一致的——结果。
超智能可以通过了解世界的规律来实现深度的文明,从而精确地知道它需要什么新数据.它将推动更深入地思考取得进展,而不是依赖物质扩张的缓慢行进。

如果这些效率占上风,文明就能够迅速加深其对自然的掌握,而不需要体制情报来管理庞大的新的实验机构。其物理足迹可能保持小而其智慧则会逐渐消失.
我们人类对宇宙已经了解很多了 从未离开过家深度文明将是这一传统的延续。
宽度的文明
但是,对新证据的需求可能压倒这些效率。情报可能使每次咨询都与现实相提并论,同时发现更多的咨询理由.更好的仪器打开了更精细的边界。更快的实验可以使额外的实验变得值得.
如果爱因斯坦几乎纯粹的认知途径 与他的相对论 刻画出一种深度的文明,那么生物学也许最好预示着一种宽度的文明。对于我们所积累的所有知识,以及我们所收集的所有数据,仍然需要对大量人类进行新药的测试,以便知道这些新药是安全有效的.机器现在可以模拟生物过程,允许生物学家在硅酸盐而不是物理实验中测试出新药物,但这些数字模拟并不足以对现实世界忠实以取代大规模的人类试验.更多来自机器的候选人使爱默契主义成为了更大的瓶颈.
在宽阔的文明中,光有光辉并不足以取得进步。我们对物质资源的需要——以及管理其用途的官僚机构——比聪明的头脑更能快速地发展。
这可能是我们的道路 即使未来的AI系统 大大超过人类的智能。一个超智能可以在下午设计一个世纪的实验,然后用这个世纪等待自然和机械的延续.在这样一个世界中,将情报投入执行思想所需的体制进程比投入思想本身更加宝贵。
如果每个进一步的步骤都需要越来越多的支助基础设施,这种影响就会加剧。
在这里,我们看到思维相对较少,建筑相对较多。实验室自动化。工厂成倍增加。能源产量上升.机构情报主导了这一切的实现.物理扩张成为了知识的引擎,而文明的传播是因为其问题已经超越了获得答案的手段.更多的材料,更多的能量,更多的数据可以持续.

一个戴森球体是这个未来的极端形象.设计一个需要非凡的突破,这将是天文规模的建筑和后勤。
戴森球场需要聪明的头脑来制定蓝图.这也是有史以来最重复、最单调、组织上最具挑战性的项目。
这不是智力的失败,更聪明的头脑发现更有价值的项目;更复杂的项目需要更多的物质来执行.
如果是这样的话:超级智能的超能力可能不是它的天才.相反,它愿意成为官僚机构,协调必要的庞大技术和体制机制,以便在更大的规模上将思想变为现实。
几乎所有的机器情报都会被部署 来完成辉煌的事业,而是为了做无聊的事业。

自然对物理扩张的速度限制可能会阻碍进一步的进展。建造机器来收取恒星能量,其外有其他恒星和其他星系,相距(据我们所知)是它自己的节流阀:任何船只都不能行走,任何信号回回的速度都快于光.宽度的文明是一种缓慢的文明.它的巨大变化可能相去甚远,也许相去数百万年。下一步需要更长的时间。
农业和工业的革命将看起来像一个漫长历史的疯狂开局,进展速度要慢得多。

一个让人好奇的地方
很可能,未来的人工智能系统在制作前沿见解和协调使这些见解实际有用所需的资源方面都超过了人类。但这种可能性并没有降低人类好奇心的重要性.
第一,我们仍有启蒙的义务,即使机器看起来更适合。宇宙中可能已经包含了远比我们聪明的心灵, 并且有我们无法理解的科学和道德问题的答案。然而,我们自己仍然试图了解世界。另一种情报的到来, 即使是我们自己建立的情报, 并没有改变这一点。除非我们确信人类没有别的东西可以贡献,否则就放弃我们自己能够给世界增加的废物。我们的责任仍然是不断要求并试图回答。
第二,我们在边境情报方面可能比机构情报具有相对优势。这意味着,即使我们两者情况都更糟,我们相对而言在前者方面更好,而且专门从事前者。人类表示更倾向于创造性而不是循道而行,而机器人则表示没有这种偏好.
第三,我们从多样性中获得价值。即使机器可以模仿大多数人类的思维,如果我们保持一些独特性,我们提供创造性的多样性.许多机器情报会留在自己自我维持的机器里,但一小部分将是我们根据我们创造性的要求部署的。一个整体的活口,但奢侈的我们的范围,远远超出我们今天拥有的资源.

聪明不是一件孤独的事。它需要世界,而天才需要建设者来实现它的创造性愿景.
今天人类的很多智慧都走向了将思想变为现实的无名之作。机器头脑会继承同样的依赖性.他们不可能都是光辉的。他们一定是官僚。
我们即将到来的故事——及其进展的速度——取决于伟大的心灵是否需要更多的世界,或者他们是否用更少的时间做更多的事情。

- 2026
- 下一个经济
作者数
继续读

情报时代 Aug 2026

出版物Aug 1, 2026

《全球事务》Jull 22, 2026
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。