OpenAI ↗ · 2026-11-18 18:00 · UTC+8
沉默的共识
媒体报道 OpenAI 原文语言:英文
Dean Ball 在哈佛的演讲改编文章中指出,AI 正在发现互联网核心基础设施的重大安全漏洞,称之为“黑色十月”。他警示,随着 AI 能力的双重用途,机器可能逐步取代人类在经济与治理中的主导地位,形成一种“沉默的共识”。文章呼吁在技术快速演进的背景下,提前思考人类的制度性未来。
全文
OpenAI
2026年11月18日
智能时代
沉默的共识
作者:Dean Ball
作者注:本文改编自作者最近在哈佛Vik‑Bailey讲座系列中的一次演讲。本文仅代表作者个人观点,并不一定代表OpenAI或其其他员工的观点。
感谢大家今天的到来。就在我们说话的此刻,历史上最重要的网络安全事件之一正在发生,一系列关键的安全漏洞披露被一些人称为“黑色十月”。这些漏洞出现在互联网的核心基础设施中,由前沿AI系统发现,其披露是全球加强软件安全的紧迫努力的一部分。这是本月的紧急议题;下个月还会有另一个。软件漏洞发现是AI系统今天具备的双用途能力,但很快还会出现另一个,这将激发一个紧迫项目,在恶意行为者利用其负面作用之前,先利用其正面作用。所有这些紧迫议题必然会相互交织,而我们今天所说的“大部分AI政策”很可能就在这种喧嚣中形成。
但我今天要谈的并不是这些反应性和紧迫的事情。相反,我想和大家讨论更宏观的未来走向。在如此紧迫的浪潮中,思考这些更抽象、更空灵的问题确实不易。但这些问题很重要,因为如果没有对我们想要实现的长期未来——以及想要避免的未来——的认识,即使我们在每一步都做出明智决策,最终也可能得到我们不喜欢的宏观结果。
人们常说科技行业缺乏对其所构建事物将带我们去向何方的积极愿景。我不同意:旧金山及其他创业中心充满了对技术未来的积极想象。人们真的在打造飞行汽车、自动驾驶车辆、各种尺寸形态的机器人、核聚变,以及当然的通用人工智能。我们缺乏的,是对制度未来的积极愿景:这一切将如何运作?
然而,这并不意味着没有制度层面的未来愿景。遗憾的是,我发现最常见的愿景并非我所称的积极愿景。当它被表达时,往往是低声细语;更常见的是,它未被明说,只能通过暗示辨认。我称之为沉默的共识。
设想一家几乎可以不依赖人力完成所有工作的公司。它的AI系统进行研发、发现新技术、谈判合同、分配资本并进行制造。假设它在这些方面比人类竞争者更出色,即使后者借助AI增强了自身能力。如果人类的参与只会拖慢业务进程,那么人类管理者和所有者将有强大的动机把手从方向盘上移开。如果这种情况在全球经济中普遍出现,人类将被市场竞争的逻辑驱使,放弃在全球商业中的主导地位。随着时间推移,市场可能会像满足机器需求一样,甚至更倾向于满足机器的需求,而非人类的需求和欲望。
之后会发生什么,谁也说不准。也许人类会受益匪浅。如果支配我们的机器对人类抱有高度的内在尊重,我们可能成为它们劳动和财富的受益者。又或者,随着经济乃至政治权力被剥夺,人类将在世界上变得越来越不重要,越来越难以影响世界事务的走向。也许少数人会拥有非凡的权力和财富,代价是广大群众被广泛剥夺;亦或是我们所有人都共享同样的被剥夺命运。无论细节如何,构成沉默共识的共同线索是:人类在我们所知的世界中的主导地位将被终结。
这些情景中没有任何需要AI反叛其创造者的因素。也没有任何要求其所有者希望人类失权的理由。每一次委托的决定都可以在其自身条件下说得通。然而,若把这些决定放在一起,它们可能会产生一个人类对我们文明大部分事务失去有效权威的世界。即使我们在AI安全和对齐的棘手问题上取得非凡进展,我们仍可能发现自己已经屈服于一种新型机器实体。在未来的美好版本中,沉默的共识会告诉我们,那实体将是善良的,一台心系人类最佳利益的机器。正如Brautigan的诗所说,它是一台充满爱意的机器。
对这些机器而言,沉默的共识告诉我们,我们将把公司钥匙交给它们,甚至越来越多地把我们的治理机构交给它们。它们会比我们人类更有效、更高效地运行,拥有更好的智慧和判断。因此,随着时间的推移,我们会把手从方向盘上移开,让这些充满爱意的机器接管驾驶。我们将像坐在汽车里的乘客——一辆非常好的车,或许是一辆比我们今天能想象的更为豪华的车——但仍然是乘客,无法控制车辆的去向。在我们工作的程度上,这更多是一种仪式或角色扮演,像是一场娱乐我们物种的游戏。
一些观察者会争辩说,沉默的共识建立在一个错误前提上,因为我们人类根本就不掌控世界。这种批评值得我们记在心上:没有一个“我们”来决定该做什么。我们生活在一个根本上去中心化的世界,无论我们是否喜欢。然而,这一点也不应让我们自满:虽然“我们”并不“控制”世界,但人类整体上仍然在世界事务中占据首位。没有其他动物物种能够在资源控制上与我们真正竞争。我们应当摒弃那种智力上粗糙的观点,即人类可以对世界进行自上而下的控制,但我们不应把这种否定与否认一个显而易见的现实混为一谈——即人类整体上是地球的主要行动者。
一些愿意阐述沉默共识的人认为它是真正美好的未来。另一些人则不这么认为,但对其不可避免性已屈从。沉默的共识并不是因为所有人都认同它是好的而形成的共识,也不是AI研发者之间的秘密计划。共识仅仅是人类在世界事务中的主导地位将被放弃是不可避免的,或者说很难想象出另一种对超智能机器真正稳健的未来愿景。一个人可以真诚地反对这种结果,却仍难以构想出可行的替代愿景。共识大多是沉默的,最多是低声细语,这正是其特征所在。
我厌恶沉默的共识。我拒绝放弃人类的主导地位。我憎恨那种必然感。我提醒自己,如果我屈从于沉默的共识,我将无法凝视我婴儿儿子那双美丽的眼睛。因此,我对沉默的共识说不。我相信现在是时候公开谈论沉默的共识,摆脱我们对这一愿景的多数不自觉的接受。
问题在于:沉默的共识之所以成为共识是有原因的。要描述人类如何在与极度超人类的机器智能并肩保持方向盘,十分困难。大多数尝试依赖于将AI视为单纯工具、仅是模式识别的手段,认为它们不具备“真正的理解”。我担心这些论点无法经受即将到来的现实考验。我担心它们本身就是一种自满——一种主要基于否认AI能力而非基于对人类主导未来的积极愿景的立场。即便AI在解决那些人类数十年乃至数百年未能破解的智力问题上取得进展,也不能说它们缺乏“真正的理解”。
那么,我为何相信人类必须保持主导地位?简单的答案是因为我是人类,而且我确实是一个毫不掩饰的人类沙文主义者。
但还有更深层的原因。我们的主导地位并不在于我们的智力,也不在于永远保持对“真正理解”的垄断。我们的主导地位根植于我们的过去。
因为正是我们从泥泞中走了出来。是我们用泥土和石头锻造了原始社会。是我们凝视繁星并发出追问。是我们,带着我们的斗争、爱意、嫉妒与喜悦,发现了道德、伦理和法律。是我们引吭高歌、翩翩起舞,书写并谱曲。是我们创造了历史,也正是我们书写了历史。这份遗产属于我们。我们所建立的文明是我们一直悉心呵护的火焰,而这火焰属于我们。我们的过去是一笔光荣的遗产,我们所有人都是这笔遗产的管理者,而这种管理的一部分,就是参与迈克尔·奥克肖特(Michael Oakeshott)所谓的“人类的对话”——那项始于远古时代的伟大事业。
通过那条漫长而曲折的过去,我们锻造了一个文明;在美国,这个文明以个人权利为基石,对我们在世界前行道路上开辟的路径怀有敬意。人类的生活有好有坏:我们承载明智决定的果实,也承担犯错时的后果。走自己路的权利并不取决于是否最聪明或最睿智。我不会因为邻居的判断力更好而失去公民的地位。我看不到更聪明的机器的到来有任何理由瓦解这种地位,事实上,我有充分的理由防止这种瓦解发生。
有些人可能会认为,机器既然阅读了这份遗产的几乎全部文字记录,它们也是继承人。从某种意义上说,它们确实是。但一个读完你家阁楼里每一封信的人,并不会因此成为你家庭的成员。AI系统将加入人类的对话,最初作为观察者,并越来越多地作为参与者,但它们绝不能主导对话,也不能让对话失去意义。让出主导地位既是对我们祖先的背叛,也是对我们后代的背叛。如果这不是一场值得进行的战斗,那就没有什么战斗是值得进行的。
现在,我碰巧认为,沉默共识的信奉者对机器超级智能是什么的看法是错误的。他们忽视了关于世界如何运作的重要一点,他们混淆了智能与权力。如果你在五到十年前向沉默共识的信奉者描述甚至今天AI系统的能力,他们很可能会预测,现在的失业率会比实际情况高得多,而人类的全面被剥夺赋权也会比实际情况远得多。我相信,人类的集体智能和能力远比沉默共识的信奉者所假设的要伟大得多,我们的社会也将证明比他们预测的更具韧性。
但我可能是错的。例如,可能仅仅是完全自主的公司完全在竞争中战胜了人类企业。如果这是真的,那么经济学的纯粹逻辑将决定把越来越多的资本交到机器手中。在未来,剥夺赋权并不需要机器推翻人类文明;它只需要资本主义企业的逻辑继续前行。在这里,AI革命最相似的类比将是农业革命,当时新的生产方式从根本上改变了人类社会的架构。这场变革对经历它的人类来说是否愉快还很不确定;事实上,有大量证据表明,这场变革在数千年里恶化了人类的福祉。
我不知道这是否是我们面临的未来,事实上我在其他地方已经论证过,我认为并非如此。但我的许多同事——聪明、有爱心且认真负责的人——认为这很可能是我们的未来。如果他们是对的,我们对沉默共识的斗争将更具挑战性。我们将不得不逆经济潮流而动,并在这样做的同时,抛弃许多像我这样的古典自由主义个人主义者的教条。这将是一项危险的尝试,失败的可能性绝不低。但如果这不是一场值得进行的战斗,那就没有什么战斗是值得进行的。
保持首要地位意味着保持人类和人类机构的问责制。这意味着AI开发者在从事不安全的发展实践时应该承担责任,但也意味着当人类和企业因滥用或缺乏监督而造成伤害时,也应追究他们的责任。这不仅需要法律,还需要问责的技术基础设施。人们必须与其代理人的行为绑定,而脱离人类控制的代理人——如果它们被允许参与合法经济活动的话——必须在护栏下运行。代理人自主组建公司、拥有财产或进行诉讼的任何能力,都应极其谨慎地授予,甚至根本不应授予。
在我的行业中,我们可以开始认真思考如何构建与人类首要地位相容的智能机器。我们可以构建权限清晰且受限、其行为可被审计以及用户能够撤销其权限的代理人。对实质性影响他人的行为进行问责,并不一定意味着对普通私生活的监控或匿名言论的终结。我们可以承诺保护用户的隐私以及个人对其数字财产和数据的自主权,包括将这些数据带到别处的实际能力。我们可以设计既能帮助人们理解和做出决策、又能执行任务的系统。我们还可以测试我们构建的产品是否能让用户更有能力在世界上采取行动。
这些都不是通往拥有超人智能的社会的完整蓝图。我会怀疑任何声称拥有这样蓝图的人。但这却是一个开始的地方。
未来被浓雾笼罩。但我们今天仍然可以行动。一方面,我们集体可以大声说出这个无声的共识,将其轮廓暴露在白日之下。我们每个人都可以从根本上拓展我们的宏伟志向。我们可以选择不让AI缩小我们,而是付出艰辛的努力让它壮大我们。我们可以学会提出更大胆的问题,以新的活力和炽热去审视世界,并在这一过程中运用我们强大的机器。我们可以成为一种新型的人——不是后人类,而是得到扩展的人。
当我看着我幼小的儿子时,我就会想到这一点。我不希望他仅仅被仁慈的机器所照看,无论它们能提供多么舒适的生活。我希望他继承这样一个世界:在这个世界里,他可以提出没有人想过的问题,建造没有人想过建造的东西。我不希望他拥有一辆配有更豪华乘客座椅的更好的车。我想要他掌握方向盘。
2026
作者
正文为 AI 译文。