“超级智能”和一份不具约束力的安全承诺,能改善 AI 形象吗?
原题:Can ‘super intelligence’ and a non-binding safety pact solve AI’s image problem?
内容导读
TechCrunch 播客讨论白宫与 AI 高管签署的前沿安全承诺。受访者质疑其法律约束力,并认为会面的一项重要作用可能是把公众对 AI 的担忧重新包装为“超级智能”叙事。

全文阅读
来源:TechCrunch即会翻译
本周,美国总统 Donald Trump 邀请了许多人工智能领域的重要人物,并在部分活动中宣布,美国政府今后不再称其为“人工智能”,而要称为“超级智能”。
在 TechCrunch 最新一期 Equity 播客中,Kirsten Korosec、Sean O’Kane 和我讨论了这场会面的动机,以及它可能对 AI 行业产生的影响。我们都相当怀疑高管签署的《前沿责任联合承诺》会产生多大作用,尤其是 Sean 指出,这份承诺“在法律上几乎没有约束力”。(Trump 则说,他认为它“在道德上有约束力”。)
Kirsten 认为,这场会面真正的重要意义可能是“围绕 AI 的重新包装”。(本周末 Trump 宣布成立新的“超级智能力量”,这一做法仍在延续。)她概括的核心信息是:“AI 会杀了我们,很可怕,还会抢走工作——但超级智能不会。”
以下是对话预览,为篇幅和清晰度做了编辑。
Anthony:按照美国总统的命令,它现在不再叫人工智能,而叫超级智能。我们上周就讨论过这件事,因为 Trump 一直在暗示——不过他不是暗示,他已经说了一段时间。现在它已经写进行政命令。如果你是美国政府的官方代表,就应该说“超级智能”,而不是“人工智能”。
这也属于一项更广泛的 AI 安全公告。我觉得这件事有意思,不只是因为承诺本身,还因为这场活动竟然发生了。它似乎是很快促成的:就在一两周前,Trump 还说不需要这些东西,美国必须在 AI 领域领先,不能对它施加任何限制,不需要监管,任何认为 AI 有危险的人基本上都是中国或民主党的代理人。可本周早些时候,这些 AI 公司 CEO 却聚在一起,与他签署了承诺。
Kirsten:在继续之前要补充一点,当时不仅有人反对监管——至于这份行政命令是否涉及监管,我认为没有,里面有些表演成分——更重要、也更有意思的是,就在几天前,Anthropic 在 Trump 政府内部还处境不佳。
后来情况变了:[Anthropic CEO] Dario Amodei 被邀请参加晚上 10 点的晚宴。他与 Trump 单独会谈,几天后又参加了午宴。几乎所有主要科技公司都有重量级人物出席:Mark Zuckerberg、Jeff Bezos、Elon Musk,当然还有 Dario,全都来了。
你们有人看了会后的新闻发布会吗?之后出现了很多梗图,因为一群科技 CEO 聚在一起时,行为确实有些有趣。
但我更想问:这一切意味着什么?它真的有意义吗?
Sean:你有多少时间?首先,Trump 和 Dario 确实共进晚餐。如果你读了 Trump 最近接受《时代》杂志的采访,至于他是否知道那场晚宴会发生,你可以自己判断。这种现实很奇怪,但我们现在就生活在这种现实里。
还有一点让我怀疑政府与 Anthropic 的关系是否真正修复了,真是意料之中:尽管显然有人试图让双方走近,国防部仍然坚称 Anthropic 很糟糕、很“觉醒”,构成国家安全风险。Emil Michael 似乎隔三差五就在 X 上抨击 Anthropic。即使 Dario 出席了这场活动,双方之间似乎仍有距离。
至于协议,实话说,他们连“美利坚合众国”都拼错了。它也几乎完全不具约束力,纯属自愿。我最喜欢的一点是,Trump 把它称作“在道德上有约束力”——这种抽象程度和说法,我以前从没听过。
Anthony:关于 Anthropic 与 Trump 政府的关系,之前有不少报道,尤其是在国防部冲突升级期间。白宫不同部门与 Anthropic 的关系并不一样:财政部长似乎很支持它,国防部则明显不喜欢,至少不满 Anthropic 对技术使用提出的一些条件。
所以看起来其实没有什么真正改变。白宫里有人希望使用 Anthropic 的技术、让它参与决策;也有人非常、非常不希望这样。
这份协议看起来没什么实质意义。真正有意义的是,他们觉得有必要做这件事。正如“美利坚合众国”被拼错所显示的,整份文件似乎是仓促拼凑出来的。[但]需要做出这种姿态本身就值得关注,尽管我不认为协议会带来重大变化。
Kirsten:我认为确实发生了一件重要的事。对我来说,这件事的目的就是围绕 AI 进行重新包装:“AI 会杀了我们,很可怕,还会抢走工作,但超级智能不会。”这不是我个人的看法,但我认为那就是他们想传达的信息。
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。