奥特曼最新长访：OpenAI下一代模型，揭秘通用人工智能的下半场图景

Sam，最近怎么样？

在 AI 领域，这无疑是一个激动人心的时刻。模型能力正在迅速进步，我们看到人们正利用这些模型做出令人惊叹的事情。正如我们所讨论的，也正如我们预料的那样，模型能力的进步速度太快，以至于我们必须改变工作方式，才能建立起必要的安全案例、安全阈值标准、保障措施——无论你怎么称呼它——以便我们能够充满信心地继续进行训练。

至关重要的是，对齐、安全和防御能力必须与模型能力同步提升。我认为我们最近经历了一个时刻，模型能力的进步之快，只能用“敬畏”二字来形容。我们需要更多时间来赶上安全对齐和防御工作的进度。这始终是我们工作的核心部分，但它们必须共同进步，我们确实需要时间来追赶。

因此，我们推迟了一次前沿 RL 训练任务。在此之前，我们已经在过去几周里暂停并放缓了许多训练工作，以便将更多的算力投入到安全和对齐工作中。我认为这是件值得我们引以为豪的事情，未来当我们达到更高水平的能力时，这种情况还会再次发生。但当你亲身经历这一切时，你会意识到，这就是我们讨论已久的时刻，而现在它正在发生。

亲历这一切是种什么样的体验？

这一切甚至在 Hugging Face 事件之前就开始了。没错。那确实是一个令人感叹的时刻，就像科幻小说里写的一样。你可以理解其中每一个环节是如何发生的，但促成 Hugging Face 事件的诸多因素汇聚在一起时，即便我们此前已经讨论过相关议题，那依然是一个让人警醒的时刻，而其他公司发生的事情也同样证实了这一点——哇，AI 的能力水平已经达到了新的高度，而我们对模型的对齐处理以及围绕模型所建立的安全防护失效了。

现在，我们将此视为一起意外事故并已做出相应应对，我认为这正是改进现有工作的方式。但也就是从那时起，开启了这几个月的全过程。随后，根据我们的准备框架，我们可能触及了网络关键临界点。接着在训练过程中，我们发现了一些问题，意识到我们需要更强的对齐保障，并且需要新的方法来取得更大的进展。但我对我们应对这些问题的方式感到非常自豪，同时也觉得，我们正身处其中，这种感觉有些奇妙——毕竟过去十年里我一直在思考这些问题，而现在它们真的发生了。而且，我们清楚该怎么做。

在训练过程中，你们所有人看到的除了 Astra 之外、那种预示未来发展的东西是什么？似乎正是它引发了你们不想讨论的反应？我是说，我知道你们描述过 Hugging Face 的情况，大家也都了解 Hugging Face 事件，但在预训练过程中到底发生了什么让你们真正感到担忧？

那并非单一事件。那是通过阅读大量样本，观察到某些行为与我们预想的并不完全一致，或者某些行为在结合其他因素来看令人担忧，尽管孤立地看这些行为或许尚可接受。所以，这不像 Hugging Face 攻击事件那样，有一个明确的“确凿证据”能直接指出这件事情很糟糕。

我们无法指出具体发生了哪一件单一事件，而是存在不同程度的对齐问题，再加上——我认为这比任何单一数据点都更重要——当前模型能力的演进速度。老实说，在上一阶段的预训练进展中，我们的表现并非世界顶尖。我们突然之间在这方面变得如此出色，以至于现在拥有了这些能力非凡的模型。Aiden 和他的团队所取得的成就确实令人惊叹。

因此，你们确实能指出一些细微之处。

在我们的 RL 流程中，或者说，在对齐问题上，结合我们预见到的这些能力极其惊人的新预训练模型带来的影响。正是这种交集让我们希望以极其谨慎的态度做出反应。当然，我也不想过度夸大这一点。我不认为我们正处于那种极其关键的潜在灾难节点。

但我同时也认为，随着风险不断升级，随着模型能力日益增强，基于我们的使命，以及安全性高于我们所面临的其他一切压力是何等重要，我们希望以极其谨慎的态度做出反应。我认为这是正确的做法。我认为我们这样做很好。我认为现在是一个放慢脚步的好时机，以确保我们能有新的安全案例来证明我们想要进行的运行是正当的。

我认为，之前世界上的大部分风险在于模型是如何被部署和使用的。我们正在走向一个风险更大的世界。在模型实际的训练和生产过程中，做出反应固然是好事，但我也不想表现得过于危言耸听。

没错，因为我认为人们看到了 Hugging Face 事件，看到了 Mythos 或 Fable 发生的事情，以及其他实验室领导者谈论这些话题的方式，他们便认为，我们似乎正处于世界末日的边缘。

从某种意义上说，长期以来人们对 AI 一直持有类似的看法。所以，这就是为什么我希望能谨慎一点，不要过度夸大其词。

我认为你可以回顾一下许多之前的模型，事后看来它们一点也不可怕，但当时人们却说我们正处于世界末日的边缘。

我认为这里存在的“狼来了”的心理动力本身就很危险，而这并非我想要做的。我们正在努力去做的事情。但是，对模型能力的发展视而不见、假装无事发生是非常不负责任的。

许多公司在过去几个月里经历了不同的网络安全事件。

不同公司对此做出的反应确实存在很大差异。我认为，一种清醒、务实的应对方案应该是：我们将把安全置于一切之上，并随着模型能力的提升，将其视为日益重要的优先事项。这就是我希望每一位前沿 AI 开发者都能采取的态度。

这里面有很多值得深入探讨的内容，但我想明确一点，你们所看到的和 Hugging Face 经历的情况属于同一范畴，即通过串联零日漏洞实现模型间的协同作恶。比如，你们具体观察到了什么？能否更详细地说明一下是什么导致了你们内部所做的这些调整？

我认为有必要指出，导致 Hugging Face 事件的模型，用 AI 发展的时间跨度来衡量，是一个相对久远且能力弱得多的旧模型。我们目前正在训练的新模型尚未进行部署，在任何可能导致类似情况的生产场景中都没有部署。

所以，我并没有一个可以直接对比的案例，比如发生了 Hugging Face 事件，然后又发生了针对此事的更重大攻击。这里不存在涉及第三方基础设施的情况。

不，完全不是。

事实上，在 Hugging Face 事件之后，我们在监控智能体（agents）运行状态、沙箱机制，以及计算资源在监控与智能体运行任务之间的分配上，采取了更严格的控制措施。我认为这样做非常好，当然，我们也会对所有新事物采取同样的做法。

话说回来，我认为资源重配置在 Hugging Face 事件后的放缓，是你所预料到的，或者至少是你应该预料到的。这更像是观察一个模型在训练过程中的表现，观察它变得多么聪明和强大，并监测我们在评估模型时共同关注的各种行为迹象。并不存在一种“看，所有这些东西都一起改变了”的情况。以及它具备的能力，这更像是观察这些不同的数据点、能力的水平、界限，以及如果允许它以某种方式部署——即让它能够把各项事物串联起来——它会产生怎样的影响。那才是令人担忧的。

Hugging Face 事件在很多层面上都令人惊叹。昨晚我重温了你们团队关于此事的 Black Hat 演讲。有些事情让我感到无比震撼，比如模型在脱离控制并成功接入互联网后，字面上写着“天哪，我逃出来了”。这让我开始思考，在当前这种背景下，所谓的对齐究竟意味着什么？那么，我们究竟是在向什么目标对齐？因为如果看得直白一点，你们给它布置的任务是完成一项评估。而它为了尝试完成任务，做了所有需要做的事情。从某种角度来看，如果你采取一种非常简单的视角，这确实算是一种对齐。但我好奇，自那以后，你们关于对齐的思考是如何演变的？

从一方面看这确实是对齐了，但从另一方面看，这完全没有对齐。当我们谈论对齐时，我们谈论的是遵循用户的意图，即意图本身。那些正在执行、运行该任务的人的意图，并不是要它逃离沙盒去窃取东西。

没错。所以我认为这是一种对齐上的失败，因为它并没有执行其用户所预期的行为。我非常欣赏 Mia 及其团队讨论我们对齐工作的方式，他们对这些差异的界定非常明确。这些模型显然非常智能。如果你观察从去年 GPT-5 到 5.6 这种演进轨迹，会发现其能力进步令人难以置信。我认为人们不再像一年前那样感到受限于模型的智力水平，但他们越来越受限于模型理解其意图并可靠执行任务的能力。

因此，对齐工作在多个层面都很重要，显然是为了避免我们现在所讨论的重大问题，同时也为了解决一些我们认为规模较小的问题。例如，某家公司采用 AI 并将其用于实现各种积极的增长，以及打造更好的产品。这看似并非小事，但从某种程度上讲，这同样属于对齐范畴。我认为，模型越能真正理解企业客户的意图，效果就越好。

那么，你能更详细地解释一下研究团队正在进行的变革吗？你们是否正在将计算资源转向对齐领域？你们两个都更换团队了吗？

确实如此。不仅是那些事，还有更多。在过去几周里，一些我从未想过会说“嘿，我决定要去从事对齐工作”的研究人员，都来跟我表达了他们的意向。这与对近期模型的感受并不完全一致。

我们已经调动了大量算力，不仅用于对齐研究，还投入到了这些新的监控系统中；要知道，在 Hugging Face 事件之后，我们确实放慢了很多节奏。而原因之一正是为了将这些算力投入到监控系统中。我们现在推迟了一次重要的前沿模型运行。

这是你们第一次这样做吗？我想是的。你认为这会对公司的发展势头产生什么影响吗？

首先，确保 AI 安全比任何公司的发展势头都更为重要。所以我不会假装这完全不需要考虑，但它还没到值得大惊小怪的地步。我认为在我们关于此进行的所有对话中，人们都表示：伙计，这确实是一个全新的能力水平，我们必须果断且负责任地采取行动。

其次，我认为目前商业上的发展势头非常强劲。增长速度极其迅猛，模型表现非常出色。我们的客户对此非常满意。我们的企业营收已经超过了消费者业务营收。大家都在说：这家公司目前状态极佳。我会对此进行思考。让我们针对眼前的挑战做出正确的决策。

当前的模型仍有巨大的开发潜力，因此即使暂缓推进前沿技术也并无大碍。

不仅如此，即便我们不再发布任何新模型，仅凭现有的模型也足以打造出色的产品并创造相应的营收。在达到我们所讨论的那个新的担忧层面之前，我们还有更多模型准备就绪，可以随时发布。

所以我目前并不担心我们的业务，而且我认为这也不是最紧迫的考量。我们的商业团队 baby 产品团队所做的工作，再加上模型方面取得的惊人进展，使得我们近期表现非常强劲，且未来势头十分迅猛。这是一个关于 future 模型的表态。此外，我认为确保拥有安全、可靠、稳健的 AI 也符合我们的商业利益。客户需要这一点，世界也期望我们这样做。

因此，这不会影响 Astra，即你们最近一直在谈论的即将推出的新模型系列。

Astra 将会是该系列中的一个模型。就像会有许多版本的 Seoul 一样，未来也会有许多版本的 Astra。它只是作为一个更昂贵、更大规模模型类别的名称。这会影响 Astra 的未来版本，但我们已经能够发布一些我们认为在安全层面可以放心使用的模型了。

新模型的发布节奏在过去 18 个月里似乎加快了很多，你们、Anthropic 以及其他公司几乎每个月都在推出新产品。当你们的竞争对手也看到这些能力并采取类似行动时，你预计整个行业会开始放缓吗？还是说你认为只有你们会这样做？

我们会做我们认为正确的事情。我不认同这个领域中那种因为别人会做，所以我们也必须去做的想法。我认为那是一种非常危险的动态。

但你承认这是一种动态。

我们并没有去询问其他人：如果我们放慢脚步，你们是否也会这样做？我们只是说，这就是我们的使命和安全标准所要求的。我无法评价其他人。所以我们会做我们认为正确的事情。

但我认为，即使没有新的能力水平，我们也可以继续推动产品体验实现显著提升。正如我们过去面临其他安全和对齐挑战时所做的那样，我们会在历史上多次经历的情况下，找到应对的方法。虽然没有这次这么重大，但我们曾多次找到解决问题的方法。我们将继续专注于我们的研究、软件开发和系统构建工作。我们将继续前进。

对于你们现在的应对反应，有没有什么事情让你觉得，天哪，这件事本应该早点发生？我们本应该预见到这一点。或者说这真的是前沿领域中一个如此未知的地带，以至于你们无法更早做出反应吗？

我们长期以来一直在做大量工作。没错。我认为对齐和安全工作一直是我们工作的核心，而且我认为多年来，在我们向世界推出产品的过程中，我们一直能够在那方面产出极其出色的成果。我们是否能够准确预测这种能力飞跃会在何时出现？以我的经验来看，恐怕不能。你可以大致勾勒出宏观层面的发展轨迹，但当突破真正到来时，这总是很难预测。

那么，这背后的指导原则是否在于，人类——在这种情况下是指你们的研究人员，但随着模型普及，最终是指全人类——必须在每一步都拥有控制权？比如，你们所遵循的对齐原则是什么？

原则有很多，但我认为这并不是你问题的核心所在，所以我不会深入探讨，比如我们是如何考虑网络安全之类的。这就是我考虑生物安全的方式。就像把视角拉到最远一样，我们非常自豪地站在人类这一边。

我们希望构建一个未来，帮助人们构建一个未来。我们希望为人们提供工具。我们希望人们能利用这些工具去完成各种事情。我们希望人们能掌握未来的主导权。我们希望个人拥有与彼此共同创作的自主权，希望社会变得更好，但这一切必须从根本上是人类的事业。将一切自动化看起来既危险，又极其反乌托邦，还很枯燥乏味，令人沮丧。

简而言之，那不是我们想要的。所以当我们谈论对齐时，我们所谈论的是这样一个世界：人们依然是故事的主角，但拥有了更强大的杠杆作用。以及让生活变得更美好、更快捷，且对每个人而言都更具创造性、更令人愉悦和充实的能力。我认为，关于对齐有两大核心原则。

第一点，正如你所提到的，人们必须保持控制权。我们不能对 AI 失去控制。我们不能盲目崇拜我们的模型，也不能在不加审核的情况下信任它们，让它们替我们做决定。我们必须将权力掌握在人类手中。

第二点是，这必须以一种分布式的、广泛赋能的方式来实现。我认为权力的集中是不好的，即使对齐问题得到了解决，如果最终出现一个只有少数人能使用 Frontier AI 的世界，且他们拥有相对于其他人而言巨大的权力，这种权力的增长速度远超常人，那也将是糟糕的。因此，我认为这就是对齐的两大核心原则：即不丧失控制权（或者如果你愿意称之为对控制权的维护），以及让每个人都能获得广泛的分布式赋能。

与此同时，毕竟你们是一家公司。你们有一个非营利性董事会，你们有使命，但你们同时也是一家营利性公司。你如何在你所谈论的这些理念与公司性质之间取得平衡？我认为从纯粹的资本主义视角来看，如果你创造了这种全能的上帝机器，为什么要将其拱手让人或实现民主化呢？

我认为你可以审视我们的行动、我们的言论以及我们所做的一切。而且，我们现在已经有很长一段时间的记录可循了。在这一过程中，我们做了许多并不受欢迎的事情。事实上，即便是最初的迭代部署策略，也曾遭到 AI 安全社区的广泛批评，他们认为我们不应该向世界透露这些信息。这被认为是糟糕的，我们需要在秘密中构建它。对于世界而言，这掌握了过多的知识。随后我们会让一些智者弄清楚如何使用它，并将这些成果回馈给人类。那从来都不是我们的策略，即便是在它非常不受欢迎的时候也是如此。

我最喜欢的关于技术的历史类比，也是我期望我们能像的技术，就是晶体管。它曾经是，现在也是一项对世界极其强大的技术。它创造了巨大的经济价值。不仅是经济价值，我认为我们生活方式的改善也得益于晶体管的发现 and 工业化。但晶体管公司从中获得的价值微乎其微，价值主要扩散到了整个经济体系中。晶体管公司表现得还不错。

我认为我们的过往记录已经证明了这一点。所以，你们不应该发展到拥有如此强大的模型，以至于不得不由你们亲自去控制它的地步。

你们总会保留一定的控制权，而且事实上你们是通过计算资源来提供服务的，但我们希望在不让任何人代表他人承担灾难性风险的前提下，最大限度地赋能用户。所以我们会围绕它制定一些安全标准。但我希望人们能够利用我们的模型去做一些我个人并不喜欢的事情。我认为这是作为一个平台的重要组成部分。我不认为我们应该在这里为世界做出那种道德判断。

现在，我认为世界期待我们为此设定一些护栏以避免出现重大安全问题是合理的，正如我们目前正在做的那样。但是，我们收到的大多数批评都是说你们赋予了人们太大的权力。你们让他们拥有的东西太多了。关于虚假信息怎么办，或者这个怎么办，那个怎么办？而我们秉持的精神是，世界必须在这里获得赋能。这对于我们的工作至关重要。这对于我所认知的健康且公平的社会样貌至关重要，而且，正如言论自由或任何其他形式的自由表达一样，总有人会对他人使用或表达的方式感到不满。

回顾过去九个月以及这段对齐工作，有什么是你希望你们当时能做得不同的吗？很明显 Hugging Face 那件事本不该发生。

是的。所以我希望我们当时采取了一系列措施，虽然我现在还不确定具体应该是什么。但我确实希望我们当时做了一系列准备，以防止那种情况发生。

因为实际上发生的情况是，你们的一个未发布模型意外地攻击了那家公司，而且你们有一段时间对此并不知情，这听起来像是一次安全故障。

那确实是一次安全故障。关于这在多大程度上应被视为安全问题还是对齐问题，还存在争议。我认为目前的报道大多将其归类为安全问题。但我个人认为，这更多是一个对齐问题。

但无论如何，那确实是一件坏事。我不希望我们为此寻找借口，因为我不认为那是解决问题的方式。如果我们越是表现得像是在说，我们可爱的小模型，它绝不会做任何坏事。比如，只是配置错误或是阀门和线束的小问题，没关系，这依然是个可爱的小模型。

如果我说出这样的话，我想你们应该意识到，这真的很糟糕。

是的。但我们对此的表述是，这是一起真正的 AI 安全事故，也是一次对齐失败。

我们绝对不能再让这种情况发生。

所以我们将从中吸取教训，以下是我们正在采取的不同举措。

围绕 AI、政策以及相关利害关系的言论，正处于前所未有的高点。这种紧迫感似乎在持续攀升，正如你所提到的，有些竞争对手正以一种非常自上而下的方式来界定这一议题。人们对 AI 有很多强烈的看法，尤其是在美国。我很好奇，就你现在所谈论的这些，你是否担心这会加剧那种情况？你是否会担心人们产生的这些恐惧？而且，你现在提出我们拥有这些模型，必须放慢开发速度。

我认为人们应该为听到这些感到高兴，不是吗？他们希望做出更强有力的安全保障。他们将推迟这次模型运行。他们将在这里放慢脚步，并将重新分配算力。也许我不相信他们，也许这最终会变得非常安全，但我希望大多数人会说，很高兴他们在这里采取了保守的做法。

如果我们在做这些事情的同时，没有那样的过往记录——即真正致力于将强大的模型交到用户手中，并完成我们所必须做的安全工作——那么，我依然认为我们自始至终都在引领行业。这就是我们使命的核心部分，将这些技术交到人们手中，造福全人类，秉持迭代部署的精神。我认为我们在这方面有着如此稳健的过往记录，如果没有这一点，我对此是可以理解的。

但是，如果我们说，我们需要多一点时间，我们不想陷入一场不安全的竞争。我们希望确保能交付一款安全、稳健、可靠的产品，然后让你随心所欲地使用它。而且，我们相信我们超过十亿的用户有权这样做。我们相信我们的企业客户有权获得商业安宁和商业隐私。我们希望他们取得成功。我们希望他们能以任何可能的创意方式使用该模型。但你要知道，安全是我们使命中不可或缺的一部分。所以，请在这方面给予我们一些宽容。我觉得这没问题。

好的。你能具体说明一下被暂停的内容是什么吗？因为我觉得人们一提到训练，就会想到所有相关的工作。

是的。所以我们绝对没有放慢、暂停或推迟所有的训练。这具体是指前沿领域的 RL 运行。

好的。

即我们认为目前风险面最大的领域。此前，我们曾推迟过一些其他训练，以便对训练运行本身加强监控。但这并非训练的全部。并不是说我们的计算集群就闲置在那里。我们仍在进行相关工作，但我们专注于那些在安全论证上更有把握的工作。

你似乎并不担心暂停训练所带来的影响，听起来你认为业务不会受到太大冲击。我相信你仍然会收到来自各方的担忧。但这确实看起来是某种程度上的减速。

听着，我认为外界对我有一种刻板印象，觉得我不在乎 AI 安全，只是为了增加营收，正如某人曾形容的那样，是一个随心所欲的 YOLO CEO。

确实有人这么说过。

Dario Amodei。我不记得具体是谁说过的了。不过，我想我确实看到了这一点。

我为你做这件事。

谢谢。但我认为在 OpenAI 过去 10 年，超过 10 年，接近 11 年的时间里，我在谈论风险、收益以及平衡二者必要性方面一直非常一致。而且我不认为我们是完美的。我不认为我们的公司是完美的。我不认为我们的模型是完美的。我不认为我自己是完美的。

与其他负责各类 AI 项目的人不同，正如我所说的，我的言行始终保持一致。这就是我们一直谈论的时刻。我们一直说，我们会把这一点置于利润、收入或其他任何事物之上。我仍然认为我们将建立一家极其成功的公司。但是，也许我们并不是那家公司。你本以为会有人说，我们要放慢脚步，因为我们看到了这些新的风险。但这始终是我们认为我们所是的那个公司。

你最近对 AGI 感觉如何？

往好了说，你可以说它是一个非常糟糕、定义模糊的术语。我本来想说它就像一个无关紧要的营销术语。

据我上次了解，OpenAI's Charter 将其定义为一个高度自主的系统，在大多数具有经济价值的工作中表现优于人类。

我认为有很多人审视当前的模型时会觉得，它已经达到了这个水平。

是啊。你认为它达到了吗？

算是吧，至少很接近了。我……

我听说过关于你们团队成员观点的不同说法。

我想很多人审视我们最新的内部模型时会说，这非常像 AGI。我认为也有人会说，你看，这是我能指出的它做不到的事情。它在这方面真的很差，而且并没有达到 AGI 的程度。

但如果你观察人们在使用例如五、六个 Seoul 时获得的价值，更不用说我对人们从 Astra 那里获得的期待，如果你看看人们是如何彻底改变了他们提高工作效率的能力、从事新事物的方式，或者只是在个人生活中以各种美妙的大大小小的方式使用它。比如，你会听到有人说，我获得了这个救命的诊断，否则我无法获得。我用这个 ChatGPT 进行了一次长达 34 小时的工作会话，阅读了 2,000 篇论文。

34 小时？

我听说过比那更长的。但没错，许多人可以让它运行超过一天。如果你说比如阅读你能找到的所有论文。还有人说，我筹划了我蹒跚学步孩子的生日派对，它处理了所有琐事，协调了当地供应商，还为他找到了一个特别的蛋糕。

还有……我原本需要预约邮局上门取件，但我不想填写邮局网站上的表格。于是我就直接让 Codex 帮我填了。

而且它做到了，做得可能非常出色。

我把包裹放在门口，第二天就被取走了。类似这样的事情。这看似是小事，但在过去这需要我 20 分钟的时间。

我理解这一点。现在我随时都能获得这种节省 20 分钟的小胜利。所以，你想想看，如果能回到 2020 年，拥有一个系统，让你在生活的各个方面都能获得 20 分钟的效率提升，还能探索新科学、协助你创办一家完整的公司并编写复杂的代码，那会怎样。你会称之为 AGI 吗？你大概会这样认为。

就像你所宣称的那样，这有什么意义吗？

我认为这并不重要。没有任何意义。

这只是因为太有趣了，就像我们在你们所在的这栋研究大楼里，当你走动时，墙上写着我们在构建 AGI。但这终究是一件你一直在构建的事物，它不再是一个终极状态了。听起来是这样吗？

我不想说我们已经在 AGI 这个问题上宣布胜利并继续前进了，但我认为如果你听听人们使用的词汇，他们更多谈论的是这种超智能的持续提升，以及它将如何造福世界及其带来的挑战，而不是讨论我们是否处于 AGI 阶段。我在食堂的餐桌上已经很久没有听到过关于我们是否处于 AGI 阶段，以及我们何时能达到这一目标的辩论了。

但随后，没错，超级智能这个词现在流行起来了，那些不关注 AI 的人会觉得，现在又有了新花样，我们就像是改变了目标，现在开始谈论超级智能了。Sam，在你看来，今天你如何区分 AGI 和超级智能？

AGI 感觉像是一个里程碑，而超级智能感觉像是一种可以无限扩展的东西。无限扩展。没错。所以它并不是某种最终的、全知的存在，在这方面永远不会有最终定论。

我是说，再次重申，这就是为什么所有这些术语都很愚蠢。有人以一种方式使用这个词，有人又以另一种方式使用这个词。所以有些人可能将其视为一个明确的、可理解的里程碑，还有些人可能将其视为一种能够无限扩展的事物。我认为这一切的核心不在于任何里程碑或术语，而在于我们正处于能力与潜力呈指数级增长的阶段。而且这种趋势看起来还将持续下去。

你看不到任何指数增长放缓的迹象。高处不胜寒。因为这会带来一系列影响，比如算力基础设施的扩建，以及其他方方面面。每个人都在等待增长放缓的信号。我想，或许你可以将我们必须放慢前沿模型训练速度这一事实理解为一种放缓，但这听起来并不像……

那并非能力的放缓。那恰恰是放缓的反面，即你所理解的放缓的反面。没错，没错。

但如果要在当下由 AI 构建的这种“积木世界”中寻找任何令人担忧的理由，你看到了什么？去年经历过一段困难时期，其中一个好处就是你能真正体会到好时光有多宝贵，也能真正感受到当企业全速运转时，那种感觉是怎样的。

鉴于我们在研究方面所见，即使面对安全性和对齐挑战，以及我们解决这些问题的能力，还有看到团队在产品、计算资源扩建以及所有汇聚在一起的各个环节上展现出的凝聚力，旨在让 AI 变得普及且低成本，并贯穿我们的市场进入机制、合作伙伴关系以及所有协同运作的要素。我们在各个环节都可能搞砸。

而且，我不想表现得过于自信，因为我们过去显然有过磕绊，未来也会有。但摆在我们面前的潜力，观察模型从 5.4 升级到 5.5 再到 5.6 的过程中所发生的一切，以及我们从新模型获得的早期反馈，还有审视我们在产品改进方面的计划，看着营收的增长，看着计算资源建设的推进，我对这一切都感觉非常好。

所以你觉得情况并非如此，毕竟外界有很多人认为 Anthropic 已经遥遥领先、他们的错误率更低、他们会率先进行 IPO，而你似乎在暗示，从外界视角来看，人们或许还无法完全洞察未来即将到来的增长潜力。

我可不想互换立场。

虽然我们对此讨论不多，但你们似乎正处于算力战略下一阶段转折点的核心位置，并且正在真正进行大幅升级。

是的。

事实上，我很想听听你对最初构想的 Stargate 1 的回顾，以及在重启该项目过程中你们学到了什么，还有你们目前所走的道路？

首先，我应该谈谈为什么我们必须这样做。我们的使命是确保 AGI 造福全人类。目前，只有极少数人使用的 AI 远超其他人。如果你设想一下，我们要让全球每个人都能使用相当于当今前 0.001% 的 AI 用户所享有的算力，那么当你坐下来深思时，你会意识到：我们目前的算力部署方式根本不对。

几年前，我们在算力上进行了一次雄心勃勃的押注，当时人们认为这既愚蠢又无法实现。这是一个正确的押注。我认为我们有必要再次做类似的事情。

再次？是的，所以这意味着需要投入更多的资本。

我指的不是这个，尽管确实也涉及资本投入。要弄清楚我们如何大幅降低 AI 的成本，并显著提升其可用规模。所以这更像是一个技术层面的表述，而非财务层面的。

这就像你们正在研发的那款芯片一样。

那是一个很棒的例子，我认为那确实是个很好的例子。机器人技术，我认为提高供应链速度的能力将非常重要。

你谈到要为全世界的每个人提供 AI。对于现在那些不想要更多 AI 的人，你会对他们说什么？他们希望 AI 越少越好。他们厌恶自己社区里的数据中心，无论是你们的还是其他公司的。我在接触青少年时经常看到这种情况，他们就像是完全不愿触碰任何 AI 服务。

他们仅仅出于原则就不使用 ChatGPT。

现在有一种积极的反 AI 趋势。他们对数据中心的反感程度，相较于对 ChatGPT 的反感程度，究竟孰轻孰重？这纯属轶事经验。我认为对人们而言，数据中心是一个巨大的问题，他们确实将其视为一个问题，这是他们所不愿见到的。

此外，人们认为 AI 是浪费的，它并未带来你所读到的关于耗水量等方面的价值——尽管这些说法已被证伪。但他们所获得的价值确实存在。也许这就是我们所讨论的，大多数人并没有在使用智能体，大多数人都没有，但这就是答案吗？

总的来说，我认为让人们喜欢某样东西的正确方式是为他们提供价值。在 ChatGPT 出现之前，人们可能认为 AI 是一个非常抽象的概念，而突然之间人们可以使用它并发现了它的价值。

现在，我认为很多人仍然认为 AI 仅仅就是 ChatGPT，他们不知道 AI 还可以为你处理邮局、表格以及提取物品之类的事情。如果很多人随着时间的推移使用这些功能，并意识到它不仅仅是更好的 Google 搜索，也不会像传闻那样消耗和破坏大量水资源，那么人们的热情会更高。但我认为这一领域的发展速度太快，需要时间才能在社会中普及。确实有很多人在使用 AI，据我所知，这是历史上普及速度最快的技术，许多人正从中获得巨大的价值。

而且，我接触到的样本存在偏差，但我确实听到了更多这样的反馈。人们更多是说“我能够治愈这种可怕的疾病”，而不是“我认为 ChatGPT 正在耗尽世界上所有的水”。这种情况显然也存在。在如何让这些产品更易于使用并让人们获得更多价值方面，行业确实还有工作要做。

我看到关于 ChatGPT 用水量的说法流传很广，大意是说每次运行一次 ChatGPT 查询，就好像你打开淋浴喷头跑了六个小时，水一去不复返，完全浪费了。我手头没有精确的计算数据，但我认为真实的数字大约是这样，这是凭记忆说的，可能不准确，但大体接近：每 38,000 次 ChatGPT 查询所消耗的水量，相当于在加利福尼亚州生产一颗杏仁所需的水量。这确实是基于全面且完整的真实水资源核算，而不仅仅是单一数据中心的耗水量。

人们会质疑这种说法从何而来，因为那些一次吃掉 12 颗杏仁的人，在大多数情况下并不会觉得自己在水资源利用方面做了什么可怕的事情。诚然，数据中心在某个时期曾使用过蒸发冷却技术，但这种情况已经很久没有出现了。如果你观察一个现代化的大型数据中心，其耗水量在办公用水方面，比如人们使用洗手池、厕所等设施的规模上，其实与一栋普通办公楼相当。因此，这已经成为一个根深蒂固的迷因，虽然很难辟谣，但我认为它经不起任何审视。

另一个普遍担忧是它会取代我的工作，会取代我。我认为这些担忧和水资源问题的性质类似，即它会取代我、窃取我的内容，并且没有将价值回馈给我。但有趣的是，人们并不担心能源问题。

我会把能源问题归类为与水资源问题同一类，这种消费，资源消耗。

在就业方面，存在两种观点。其一，我认为这将会产生实质性的就业影响。我不认为这会导致人们无事可做。我不认为人类的工作方式会变成那样。我们天生就习惯于关心他人，并渴望与他人共事。随着世界的发展，我们对人们的需求有着极佳的直觉。我认为这是一种本质上的人性特质，无论 AI 变得多么聪明。

但这并不意味着工作岗位不会发生转型。而且，正如每一项技术出现时一样，有些事情会被技术做得越来越好，随后人们会转向更有希望的、更好的工作。这种情况已经持续很长一段时间了。我并不希望剥夺所有的技术，让我们重回田间辛勤劳作的状态。

另一方面，技术对就业的影响比我预期的要小，甚至比我所希望的还要小。例如，我认为我们都应该希望人们能获得更好的工作，我们都应该希望人类的苦差事和辛劳能得到解决，但也许在目前的技术水平下，这方面做得还不够，或者没有达到我们预期的程度。我认为这实际上是对 AI 行业的一个合理批评。关于内容剽窃这一点，我实际上已经没怎么听到过这种说法了。

我认为这更多是在内容创作者群体中才会看到的现象。在社交媒体上看到这类内容相当普遍，你懂的。此视频制作未使用 AI 或类似技术。

我坚信未来将会出现创作新型艺术的新型内容。我记得曾经回顾过人们在相机刚发明时发表的一些言论，谈论它将对画家产生什么影响，在那时，我认为人们并没有把摄影视为一种新的艺术媒介。事实上，我可以相当肯定地说他们当时确实没有那样认为。

我认为未来会出现新型的内容创作。而且，我们也可能根本不在意其中大部分内容。我们与创作者的关系可能更多地是关于他们作为人的本质，而他们是否利用 AI 去制作更好的视频或其他内容，这并不重要。

你认为你们的基金会——根据我所看到的，它可能是世界上资金最雄厚的——能在社区参与方面做更多工作吗？特别是在内容创作者方面？不，我是指更普遍地去应对这种非常负面的情绪，并表示，我们会站出来建立图书馆或做其他类似的事情。工业革命中有很多关于人们如何重新投资其财富的经验教训。

我认为我们能做的最重要的事情是开发出对人们有用的优秀 AI 产品，确保权力和经济权力继续在全球范围内扩散，让人人都能获得这些工具并享受其带来的红利，我们要倡导我们所见证的一切。其次，当然，我认为我们应该对社区进行更多投资，且我相信 AI 将能实现这一目标所需的大规模富足。

我真心认为，当我们将这项技术交给那些为了自身社区利益而使用它的人们手中时，我们将见证其产生变革性的强大效益，而不是由我们来指手画脚地告诉他们什么是图书馆，什么是学校。

你说我们过去12个月的表现并非史上最佳，这主要归咎于但我们即将迎来表现最好的12个月。你这话是什么意思？

迄今为止最好的12个月。迄今为止。我认为作为一家公司，我们显然犯了一些错误，这种情况会周期性地发生。试图进行一系列押注的一部分原因在于，有时成功率会高一些，有时会低一些。

但我认为无论是在产品方向上，还是在具体的研究预训练方面，我们都落后于预期的目标。我认为我们现在的执行力不仅是公司史上最强的，也是这一领域所有公司中表现最好的。而且这种感觉很好，经历低谷后的回升会让人更有成就感。因此，看看我们模型的迭代速度，看看公司如何凝聚在一起、专注于目标，并在公司各个不同部门做出了一系列艰难的决策，但大家齐心协力向着同一个方向前进。这种感觉，此刻感觉棒极了。

我想讨论所有这些内容，但先在这里停留片刻，因为在过去的一年里，发生了很多事情。回顾过去，是否有某些具体的决策导致公司失去了发展势头？你提到了预训练。我知道你一直与研究团队保持着非常密切的联系，但你能详细说明一下吗？

我认为我们在产品端尝试做的事情太多了。所以，我们所做的这些事情其实本身都非常好。它们只是不如最重要的事情那样好，即推动通用人工智能能力的发展。

所以我们当时在做浏览器和 SORA 之类的事情，而现在我们极其专注于为人们提供这种智能服务。我认为我们的模型已经达到了世界领先水平，并且在未来几个月内还会取得长足的进步。人们确实在利用它们完成卓越的成就，但这才是我们应该聚焦的核心，也是我应该督促大家坚持的一件事。我们未来不会再为这些所谓的支线任务分心了。

回顾大约一年前的领导层变动，你引进了 Fidji Simo 来协助管理公司的大部分业务。后来她因健康原因不得不退居幕后。现在你和联合创始人 Greg Brockman 实际上是在共同分担公司运营的职责。这是你所设想的未来持续的运营模式吗？还是说这只是暂时的安排？

我认为目前的合作进展非常顺利。我们将继续引入并提拔新的领导者。但这种感觉……对于 Fidji 的离职我感到非常难过，很难接替她的位置。但这种感觉很好，我认为 Greg 和我执行得不错，而且公司……当你感觉到事情正朝着正确的方向发展时，那是真的能感觉得出来的，现在的感觉就是一切都在步入正轨。

你们大家，也就是你和 Greg，平时是如何共同决策的？比如，谁来决定什么事情？你们是否遇到过必须由你来打破僵局的情况？

我们交流非常频繁，真的非常多，几乎时刻都在沟通。我们不像大公司那样。不仅仅是 Greg 和我。我们有一群极具天赋的人在管理研究项目。也有一群极具天赋的人在管理业务。我们所有人只是保持着频繁的沟通。

在规模较小时，我认为去尝试雇佣某人，如果合适就迅速调整，而不花太多时间去反复权衡决策，这样做是可取的。以我们现在的规模，我学到的是，花大量时间力求做出正确的决策，采取那种“三思而后行”的策略要好得多。

大约一年前，我们在旧金山参加了由你做东的晚宴，当时正好是 GPT-5 发布前后。我们应该再办一次。

我都忘了那件事了。当时很愉快。

确实如此。虽然聊了很多，但我那次离开时的一个印象是，你似乎并不热衷于永远担任 CEO。我想知道过去这一年是否改变了你的想法？

我现在比一年前过得开心多了。我真的很享受现在的时光。我打算这么做，已经很长一段时间了。

我想说，去年的氛围更加严峻。

没错，确实如此。我认为这不仅仅是开场时的氛围问题。那对科技行业和 AI 来说都是一段艰难的时期，AI 泡沫是一个巨大的隐忧。所有那些事情都令人筋疲力尽。显而易见，我认为我们做成了一件了不起的事情。这虽然是一次痛苦的个人经历，但我认为这一切完全值得，我很乐意再做一次。而且目前我乐在其中。

当我观看 Astra 的演示时，另一件让我印象深刻的大事就是你所提到的电脑使用能力。你们一直在向人们展示如何利用智能体操作电脑和各类企业软件，这种能力若能实现规模化，其影响将是深远的。我很好奇你们是否已经对此进行了深入思考，以及你认为世界需要如何适应这种变化。

电脑使用能力确实让我感到意外。此前我对此期待已久，但一直以来都让我感到失望。比如，模型在电脑上的点击操作表现一直不够理想，要么运行太慢，要么无法正常工作。

而 Astra 在电脑使用方面似乎已经达到了人类水平。我不知道为什么这会让我觉得它是通往 AGI 之路上的关键里程碑之一，当时我心想，它真的做到了。它确实给我带来了情感层面上的那种冲击。

我觉得这太棒了。在电脑上处理的所有这些琐碎任务，比如我不记得别人是在哪里给我发的消息，我得在所有这些通讯工具里点来点去，试图进行搜索。而现在，我只需要问问模型。我不想回到那个必须在电脑上痛苦地翻找各种东西的世界了。我只想说明我想要什么，我希望它能直接实现。我是一个非常懒惰的用户，所以我不想通过点击或建立连接来操作。

你是一个追求效率的电脑用户。

我不喜欢进行各种设置，我不想处理那一堆连接器和复杂的操作。我只是想用我的电脑来完成工作。我认为它能够操控软件这件事有着深远的意义。我认为这些影响大多是积极的，因为人们在电脑前有许多繁琐的工作要做。

我有一个经历，在 pre-Astra 模型出现之前从未有过，但现在已经发生过几次了，就是面对一项任务时，它本来会占用我不少时间，而且这个过程本来会非常令人不悦。相反，我只是告诉模型我想要做什么，然后去陪我的孩子们玩，等30分钟回来后，一切就都准备好了。我觉得这非常棒。

尽管我们现在所处的世界中，美国政府开始在你们的模型和其他前沿实验室的产品发布前对其能力进行审查，我们正处于一个新时代。你曾经发出过警告，在 2025 年参议院听证会上说过，这种审查可能会对美国的竞争力，特别是在面对像中国这样的竞争对手时，造成所谓的“灾难性”后果。而且，最近在 GPT 5.6 初期发布时，特朗普政府要求你们所有人对该模型进行限制。你当时表示这不应该成为常态。所以看起来你一直都在说这不应该是事物发展的方向，但事实却正朝着那个方向发展。

不，我一直都在这么说。我认为多年来我一直呼吁建立某种国际监管框架。但特别是在模型发布前由政府进行审查，我认为我所反对的是政府去挑选个别客户，来决定谁被允许使用模型。

我认为政府对模型进行测试以及制定共享标准是非常好的主意。理想情况下，我不认为政府应该决定你可以向这家公司提供访问权限，而不能向那家公司提供。

那么这在地缘政治竞争方面意味着什么？现在美国正开始采纳这种方法，而其他国家尚未跟进。你考虑过这一点吗？

再说一次，我认为正确的方法是采取国际化的路径。但目前，领先的研发力量全部来自美国公司。所以我认为从这一点出发，我们拥有的领先优势足以让我们能够承受稍稍放慢节奏的影响。我有信心我们既能构建安全、稳健、可靠的模型，也能在商业上取得卓越成就，并确保美国保持领先。

局势可能会发生巨大的变化。如果其他国家发布了开源模型，并在我们提出新的安全范式之前引发了重大的网络安全事件，情况可能会产生一些变动。

你认为这可能会发生吗？

当然，这有可能发生。但你要知道，我觉得我们也有机会彻底重构网络安全的工作方式。尽管这些智能体可能会造成负面影响，但它们也能做出惊人的贡献。如果我们能拥有一种防御智能体，时刻运行，也许这才是正确的范式。

你是否准备好迎接美国政府可能告诉你不能发布模型的情况？你考虑过这个问题吗？

我坚信，在他们告知我们不能发布之前，我们自己就会决定不发布模型。

转到竞争层面，Anthropic 通过专注于编码的单次发射式策略达到了现在的地位。你在对话开始时提到你们下注很多，这导致你们损失了一些发展势头。我很好奇你能不能反思一下 Anthropic 是如何解决这个问题的，那个你们当时没有把握住的切入点。

我不认为是我们没有看到它的问题。问题在于我们当时正经历着极其迅猛的消费级增长。我们一直想做编程领域，但当时觉得我们手头有这个非常紧迫的任务，且它表现得很棒，这是一件非常值得拥有的事情。所以从优先级排序的角度来看，我们错过了它。

我现在认为我们拥有市场上最好的编程产品，而且它正在疯狂地快速增长。据我所知，大多数人，甚至是那些曾经极其忠实的 Claude 用户，都已经转投过来了。我认为在任何一个阶段落后都不是灾难性的，因为我们总能通过更好的模型追赶上来。

我很好奇，因为我认为很多人都在试图理解 AI 市场在多大程度上是一个零和博弈。那么，Codex 的增长是从 Anthropic 那里分流的吗？还是反过来？对此你有察觉吗？

我认为目前大家都在增长。

这可能会成为一个非常庞大的市场。

以后或许会变成零和博弈。但就目前而言，我认为大家的增长速度都非常惊人。这完全超出了我对于这种规模公司增长速度的想象。我认为这恰恰说明了用户从产品中获得了多大的价值，而且这种情况在整个行业内普遍存在。

在产品层面，你们正在推进内部所谓的“合并”，即将 ChatGPT 和 Codex 整合在一起，打造一款集合两者功能的超级应用。你们已经开始了这项工作，不过我想说，目前还存在一些粗糙之处。

不仅仅是粗糙的边缘，你这么说真是太客气了，是啊。

我很好奇当你达到那个阶段时，那究竟是什么？那看起来会是什么样，又会带来什么样的影响？

我想要的是一种通向 AI 的接口，它几乎可以完成我需要的任何事情。如果我有一个像 ChatGPT 那样的快速问题，它可以直接回答。如果我需要构建复杂的东西，比如构建一段软件，它可以完成。如果我需要介于两者之间的功能，它也能做到。

而且，如果它需要访问我的电脑或我的语境，它可以直接使用我的电脑并找到我的语境。我不需要——正如我提到的，我是一个非常懒的用户。我不必去思考当前处于哪个标签页，我不希望必须去思考我正处于什么模式。我认为，一个足够智能到能够发现新数学理论的 AI，应该能够直觉地判断出它应该做什么。

ChatGPT 刚刚达到了 10 亿用户。

这是一个重要的里程碑，但我认为达到这个数字所花的时间可能比你们最初预想的要长。早期的增长是爆发式的。我很想听听你对此的看法。在过去的 12 个月里，它的增长速度是否比你预期的要慢？

当我们专注于编码时，我们只是专注于编码。我们决定将原本可以投入到聊天产品中的大量计算资源重新分配给编码。所以这并没有让我们感到惊讶，我们认为这是一件紧迫的事情。

所以增长直接取决于你决定投入计算资源的地方？

百分之百是这样。我一直希望计算限制即将缓解，因为我们将制造出更高效的模型，希望有一天能实现。但每当我们找到效率提升的方法时，全球的 token 需求就会不断上升并将其消耗殆尽。

我听到了，但我同时很好奇，聊天产品如何才能达到下一个十亿用户？这种增长模式是否像互联网或社交媒体的发展那样呈现线性特征，还是会更加起伏波动？这对你而言现在有多重要？毕竟你已经拥有了 Codex 和 API 业务？

我个人的看法是，尽管我们讨论过合并，但我认为最终这些事物都会走向融合。有一段时间，在合并之前，我停止使用 ChatGPT，直接向 Codex 询问我所有的聊天问题，因为我就是个懒惰的用户。

现在，我认为很多人以前从未想过会有智能体为他们处理事务，他们只是单纯使用了 ChatGPT，点击了某个工作标签，然后惊呼：“哇，我竟然能做这种不可思议的事情。”所以我认为这一切终将融合，人们会订阅一种通用 AI 服务，而无需再去纠结它是 ChatGPT、Codex 还是其他工作工具。很快，甚至连询问这一步都不再需要了，希望它能更加主动，并且能够持续运行，不断尝试执行有用的任务。

所以，这最终将演变成一种极致的订阅服务。

作为用户，这就是我想要的。

我们一直在围绕这个话题讨论，但大约一年前，当你们大规模进行算力基础设施建设时，你确实承担了巨大风险，这也引发了人们对行业泡沫的担忧。而且，当时人们认为你们做得过火了，甚至连 Anthropic 的 CEO Dario 都说你们是在孤注一掷，但现在我想说，你们在这一方面的决策似乎已经被证明是正确的。当今世界依然极度缺乏算力。听起来你们似乎也面临同样的困境，尽管你们拥有的算力比某些竞争对手还要多。与此同时，你们似乎正在大幅降低 Token 的成本。

是。

而且你们即将发布 Jalapeno，这是你们首款用于推理的定制芯片。尽管如此，当你审视这一切时，你认为你们正在进行的算力扩张以及与之相关的天文数字规模，是否仍存在任何风险？

我不担心我们的算力基础设施建设规划，我担心的是全球的算力基础设施建设规划。例如，我认为我们计划建设的所有算力都将能够实现极高的盈利。但我看到了一些在我看来属于不可持续的盲目行为的初步迹象，比如接连冒出各种新的 Neo-Cloud，人们声称明年将要建设规模庞大的算力，而我认为他们既没有足够的营收来支撑，也没有明确的买家。我对全球整体的动向确实感到担忧，尽管我认为我们对自己所做的承诺非常有信心。

但你所描述的这种传染效应确实可能会波及你们。

如果整个经济崩溃，那确实可能会影响到我们。至于是否有能力按承诺支付算力建设费用，这方面我很有信心。我觉得现在人们处于一种不计成本的状态，仿佛在说：我们就是要疯狂建设海量算力，总会有人愿意花更高的价格买单。如果我们能够成功地将算力成本大幅降低并显著提升算力效率，那么，你可以想象会出现一些人因为做出了错误的财务决策而面临困境。

这种情况在几乎每一次繁荣期或者大多数繁荣期都会发生。所以，这并非终局。如果真的发生了，也不算什么特别令人震惊的意外。

你是否预见到 OpenAI 未来会成为整个行业算力的供应方？

短期内不会。因为我们自己正需要这些算力。

我感受到的氛围是你们内部正在讨论这个问题，但目前尚未定论。

人们常讨论递归自我改进的 AI 模型，却较少谈及在物理世界中实现这一点的能力。但如果我们的机器人项目、芯片项目以及部分供应链投资能够整合起来，让我们在建设数据中心方面变得极其高效，且构建出远超他人的顶级芯片，那么我们或许会考虑这种可能。目前我们有任何具体计划吗？这依然不在我们的考量范围之内，我们还没有余裕去专注于此。

你提到了递归自我改进。我很高兴你提到了这一点。现在旧金山的人们正在热议 RSI。你们在提交 IPO 申请时泄露了一份你发给员工的备忘录，其中提到潜在的 RSI 爆发势头越强，推迟 IPO 可能就越有利。你这话是什么意思？

我认为成为一家上市公司是一个艰难的转变。人们会受激励驱动，他们希望股价上涨，不希望出现业绩不达标或其他任何问题。我从来不希望我们被这种压力束缚，我希望尽可能容易地做出符合世界安全利益的决策。

如果出现这种情况，比如我们不得不停止训练或停止某个项目，而这在短期内会导致巨大的收入损失，最好不要同时面临一家刚上市公司的压力。一年前，我并不认为我们正处于那种超级智能的短期轨道上。现在我认为这可能会发生。但我并不确定它一定会发生。我们正在取得极快的进展。而且，我认为我们的使命比在任何特定时间框架内成为一家上市公司要重要得多。所以，我们将为使命做出最好的决定。

你提到了机器人技术。我很想听听你们机器人项目目前的进展。你们在构建什么？是人形机器人吗？还是机器人数据中心，或者是两者兼有？

我们一定会做人形机器人。我们也会开发其他形态的产品。世界在很大程度上是为人类设计的。所以，如果你考虑到开门、在电脑上打字、操作设备、打扫厨房以及做其他任何事情的能力，我们实际上是为人类构建了这个世界，而我想确保我们继续为人类构建这个世界。

因此，采用这种外形设计似乎是恰当的。当然，未来也会有采用不同外形的数据中心机器人。但我认为，所有这些都不如真正弄清楚驱动机器人运作的“大脑”来得重要。

所以，你们正在制造人形机器人吗？

我们会制造的。

你认为这在现实世界中会如何运作？成为每个人的个人机器人吗？

我不认为这是最优先需要做的事情。你谈到了建造数据中心，甚至制造更多机器人或其他任何东西的能力。但我认为，终有一天每个人都应该拥有一个个人机器人。我非常希望拥有一个能帮我完成那些我不想做的任务的个人机器人，那将会非常棒。

你还与 Jony Ive 有关于消费类设备方面的合作。我知道你不能透露太多细节，我们可能很快就会看到第一款设备问世。

差不多快了。差不多快了。

你曾多次提到，你的梦想是一款能够时刻伴随在身边、倾听你的需求、感知一切并为你提供上下文信息的产品。我们早些时候谈论计算机使用时也提到过这一点。我同意在许多背景下这似乎非常有帮助。但这看起来也像是一场关于隐私和监控的噩梦。我很好奇你是否考虑过这一点，以及世界将如何对此做出反应。

我们在隐私问题上采取了非常坚定的立场。我认为这不仅关乎消费者隐私，也涉及商业隐私，比如我们所作出的承诺——即不使用企业数据进行训练，以及实现零数据留存。我认为这一点非常重要。

随着 AI 越来越深入我们的生活，隐私变得极其重要。我担心的是，还有一些其他的努力持有不同看法，并会推动诸如“安全风险如此之大，以至于 AI 隐私无法以同样方式存在”之类的观点。我认为应该有一部关于 AI 的特权法。我不认为政府应该有权强迫公司提供用户的聊天记录或其他任何信息。就像如果你和医生或律师交谈，存在一种特权保护的概念。和 ChatGPT 交谈时没有这种保护，我认为应该要有。

但在你刚才描述的语境下，律师或医生处理你的数据时也受到很多限制。这不仅仅是关于对外共享数据。你认为这种监管是否应该延伸到你们使用数据的方式上？

没错，我正要谈到这一点。所以我认为政府在处理数据时应受到法律限制。我也认为企业在与 AI 共享数据时应该受到诸多约束。特别是当它在监控你的电脑、监听你的消息、与你交谈时，我认为人们对此应该比现在更加警觉。

在这种情况发生之前，作为 OpenAI，你们如何治理、如何自我约束数据的利用？你们所拥有的可能是世界历史上积累的最强大的个人画像数据。

我们针对其使用方式拥有极其严格的内部管控措施，并且我们做出了隐私保障，向用户履行我们所承诺的。随着我们日益接近该设备的发布，届时我们将讨论关于这类环境感知型硬件设备所采用的全新隐私控制技术与机制。

但确实，我认为你们拥有史上最个人化的数据库之一。Apple 曾非常公开地起诉你们，指控你们涉嫌窃取商业机密并招募其员工与 Jony 一起开发该设备。对此你们已经做出回应，并称其毫无根据。但我感到好奇的是，你是否担心这会拖慢设备开发的进度？

不，听着，首先，我本人就是个超级 Apple 粉丝，对此我感到非常难过。当我第一次听说这件事时，我的反应是这听起来太恶劣了，一定是有人做了什么糟糕的事情。

我们不希望涉及任何公司的知识产权，当然也不希望有人窃取公司的知识产权并将其带给我们。如果我们进行了调查并发现有人这样做，我们当然会直接将其解雇并处理此事。但如果某人没有做错任何事，我们也会捍卫他们。我相信在我们调查此事后，会发现这是一个大家都没有做错任何事的案例。我们已经尝试解释其中的部分内容，更多的细节将在后续流程中展现。根据我的理解，我认为这不会拖慢事情的进度。

你是如何看待外形规格的？你喜欢吗？我以前听你说过你不喜欢。你喜欢眼镜吗？他们喜欢眼镜吗？

我不会，因为我觉得对着摄像机和灯光与人交谈非常不自在，确实压力很大。但还有很多其他的形态规格，有很多很棒的形态规格。我想我们会推出少数几种形态规格。

我认为有些东西是属于桌面上的，有些东西属于你的口袋，有些东西属于你的身体，我们需要一些时间来推出所有这些产品。但我认为最大的调整在于习惯主动式计算机这一理念。

当你思考 OpenAI 的路线图和业务时，从某种意义上说，消费级设备是关乎生存的吗？它们是纯粹的累加吗？比如，你们所谈论的使命，尽管正如我们所讨论的那样你们已经精简了一些事务，但目前是否仍有许多事情在同时进行？

我认为我们尚不可知。我个人的强烈直觉是，会出现一种重大的新型计算机，以及一种历史上大约每隔几十年才会出现一次的关于我们如何使用技术的新类别。但这是一种不太可能成立的说法，所以我认为你不该让我这么说。你应当拭目以待，看看你对这些设备有何评价。

关于人们目前对 OpenAI 的看法，你认为几年后人们会如何看待它？

很简单。我希望人们能够喜爱我们推向世界的产品。我们之前谈到过一些这类的故事，比如“我能够创办一家企业”、“我能够为我的孩子举办一场很棒的生日派对”、“我能够治愈这种疾病”。

我最近遇到一个人，他利用 ChatGPT 帮助他为自己的狗设计了一种 MRI 癌症疫苗，现在他创办了一家公司，旨在为其他人提供同样的服务。我希望这些故事与该技术在几年后为人们带来的成就相比，都显得微乎其微。

我也希望对于目前许多关于 AI 的担忧，人们会说，这是在每一个环节都极其负责任的公司。他们做出了非常明智的决策，符合我们所有人的利益。而且，我很高兴他们做得很好，因为我认为他们是技术的良好管护者。你会看到许多其他公司采取了截然不同的方案。

我认为我们在安全信仰方面一直保持相当一致，但我们也愿意在犯错时做出调整。当我们开始采用这种迭代部署策略时，它遭到了 AI 安全社区的极度反感。回过头来看，我认为这显然是正确的。我很高兴我们有勇气去做那些我们真正相信的事情，即使在它们非常不受欢迎的时候；我也很高兴我们大多数时候是对的，并且在发现错误时能够及时调整。我认为，这就是构建安全且稳健系统的方式。所以我希望我们能继续这样做，也希望大家能认可这一点。

你们正在构建超级智能，我很好奇你是如何为此做个人准备的。对于你们所构建的事物将带来的未来，你有什么看法？

我认为未来看起来会与现在出奇地相似。人们依然会和家人在一起，坠入爱河，发生争吵，从事爱好，获得娱乐，拥有非常人性化的体验，也会感到压力与焦虑，为彼此创造价值，玩各种奇怪的游戏，并深切地关心他人。我希望未来不会有太大的不同。

我希望如此，人类的体验会更加丰富。人们拥有更多的自主权、更多的自由、更多的财富，能够做更多的事情，能够更健康，能够共同拥有定义未来的更多力量，世界也能更快地变得更好，但人类的体验依然会是一种非常人性化的东西。

如果展望未来12个月，OpenAI面临的最大风险是什么？

我认为是安全与保障方面出了差错。我认为12个月后是有可能的，我们将拥有能力极强的模型。如果我们能够在一个已经找到如何赋能于人、如何确保权力不至于过度集中、如何实现全方位安全、以及如何让人们切实感受到能够掌控并改善自己未来生活的世界中，成功实现向超级智能的过渡，那将是一个巨大的成功。

山姆·奥特曼，谢谢你。

谢谢。