R2N 首页 / OpenAI
OpenAI播出 2026.09.1449:3819 章约 30 分钟读完整理于 2026.09.18

OpenAI 总裁 Greg Brockman:我们已经进入 AGI 时代

Greg Brockman 在这期 a16z 对谈中把当前阶段直接称为“AGI 时代”:他认为 Astra 的计算机使用能力、长时间连续执行和跨领域任务能力,已经让“AGI”更像一个逐渐展开的模糊光谱,而非某一天突然跨过的单点门槛。对谈围绕算力供给、安全与对齐、Hugging Face 安全事件后的“防守者窗口”、万人智能体协作、AI 对就业与创业的影响、数据中心、个人化 AI 助手,以及 OpenAI 内部如何重新聚焦展开。Greg 多次强调,真正的瓶颈正从单纯提高模型能力,转向安全、基础设施、部署和如何把收益广泛分配给更多人。

010:02320 字

开场:进入 AGI 时代

Greg Brockman

我们现在已经进入 AGI 时代。Astra 真正触及了一个让我觉得“好吧,把它称为 AGI 已经相当合理”的位置。我们已经看到它可以连续 24 小时保持连贯地运行,去完成一些我认为相当惊人的任务。

模型本身会足够强大,但问题会变成:我们很难让所有人都用上,因为算力不够,无法服务全部需求。与此同时,安全、安保和对齐的标准必须持续提高。我认为,这会成为一个被很多人低估的巨大挑战。

发言者

你职业生涯里下过两个非常大的赌注:早期参与 Stripe,以及后来共同创办 OpenAI。

Greg Brockman

在 OpenAI 的整个过程中,我一直把注意力放在当时最重要的问题上。过去两年,那个问题主要是数据中心、基础设施和机器学习工程。

发言者

那你知道下一年自己会重点做什么吗?

Greg Brockman

我觉得,这会成为最重要的一场讨论。

020:531,057 字信息密度高

十年前能否预测今天的 AI

发言者

Greg,欢迎来到 a16z Podcast。你做过两个很大的职业选择:很早就参与 Stripe,也参与共同创办 OpenAI。如果我们回到十年前,让你预测 2026 年 AI 会是什么样子,你能预见到今天这些突破吗?当时你会怎么描述自己的预期?

Greg Brockman

我和 Ilya 当年其实花了很多时间讨论这件事,试图预测它最终会长成什么样,以及时间线会是什么。大约在 2016、2017 年,我们算过算力增长这笔账。如果看摩尔定律式的进步,我们当时觉得大约 15 年可能是走到 AGI 的时间尺度;如果你愿意非常激进地扩大规模,建设巨型超级计算机、投入数千亿美元,那么把它压到十年左右也不是不可想象。

所以,一方面,今天发生的一切当然非常惊人,这是所有人都能参与并共同塑造的一个特殊时刻;但另一方面,它也像是很多长期力量在今天汇合后的自然结果。如果你退远一点,从宏观视角看,其实会觉得它在现在发生是说得通的。

发言者

你们当时的时间线其实相当接近。可现在供应链已经出现真正的紧张,算力需求又这么大。你觉得我们仍然沿着原来的时间线前进吗?

Greg Brockman

我确实认为,我们已经处在一个算力很难追上市场需求的世界。只看人们今天已经如何使用这项技术、如何从中获益,就能看到需求有多强。对我们来说,把这些模型的原始潜力和能力真正扩展到每个人身上会非常困难,而这恰恰又是我们努力想做的事情。

从能力上看,我们有清晰的路径继续把模型做得更强、更安全、更对齐;但如何把这种力量、收益和赋能真正分配给所有人,我认为会是一个被严重低估的巨大挑战。

发言者

所以模型的能力会继续快速前进,但因为算力不够,要让每个人都以可负担的方式用到这些能力会很难?

Greg Brockman

对。我觉得我们现在必须认真思考所谓的“控制前沿推进节奏(pacing the frontier)”。模型越强,安全、安保和对齐的标准就越必须同步提高。它们会逐渐变成进步的瓶颈,或者说变成你必须投入巨大精力、确保真正做对的部分。在我看来,真正的约束更多是这些安全约束和算力,而不是我们是否有办法继续提高模型能力。

另一面则是把能力带给所有人。我们的使命最终就是赋能每个人,并确保 AGI 的收益能够惠及所有人。我认为,这件事应该得到远比现在更多的讨论。

发言者

那我们就把安全问题再讲深一点。早期大家谈 AI 安全,感觉更多是“别让它说出人们不喜欢的冒犯性内容”,所以做法是在外围加过滤器、做一些 RLHF。即便有人费很大力气绕过这些表层限制,只是为了让模型说几个脏话,好像也没有多严重。但现在模型真的擅长网络攻击,也会出现奖励黑客(reward hacking)之类的问题,这显然已经是完全不同的类别了。

034:14917 字

从表层过滤到架构级安全

发言者

到了今天,你需要的是更架构化的安全思路:模型本身就要知道,不能以会造成危险的方式去做奖励黑客。你觉得我们能足够快地在这种问题上取得进展吗?还是说,这是一个难度完全不同的安全问题?

Greg Brockman

我非常确定我们能够、而且正在非常快地推进。我觉得有很多很好的想法和研究,我们其实已经投入很多年了。回到 2017 年,有些当时来自 OpenAI、对今天非常关键的成果,我觉得外界低估了它们的重要性。

一方面是现代语言模型最早的一些雏形。当时有一篇 2017 年的论文,用 LSTM 做出了今天看起来还很幼小的结果。另一方面,同一年也出现了“从人类偏好中进行强化学习”的路线,也就是开始研究:当你有一个越来越聪明、越来越有能力的模型时,怎样通过人的反馈让它做的事情真正符合人的意图。

到 2017、2018 年,我们已经在讨论一个更远的问题:如果一个系统真的很聪明、很强,你要怎样监督它?怎样持续提供反馈,并确保它仍然与你对齐?当时我们讨论过 debate(辩论)、iterative amplification(迭代放大)这类方案。那时这些系统还不存在,所以很多东西只能作为前置研究来思考;今天你开始看到这些早期想法一点点流入现代系统和实际投入。

OpenAI 刚成立的早期阶段,我们对 AGI 安全的讨论一直非常靠前,公开沟通里也是如此。后来 ChatGPT 爆发,大家看到现实系统还没有走到最极端的阶段,于是“AI 是否政治中立”之类更贴近日常产品的问题自然占据了中心位置。现在,我们确实又走到了必须把那些更深层安全问题重新摆到舞台中央的时候。

发言者

这反而是一个好消息。还有一个问题:现在似乎还没有形成一个真正成熟的前沿模型安全共同体。OpenAI、Google、Anthropic,包括 SpaceX、Meta 等公司,底层架构多少有一些相似性。像安全技术、对齐失败这类发现,大家是不是应该共享,而不是把它们当成各自的专有优势?你觉得未来会怎样,是协作还是各做各的?

Greg Brockman

这里面当然有很多细微差别,但我认为“协调”会成为一个非常重要的主题。前沿实验室之间需要协调;更广义地说,我们也必须思考整个人类怎样才能以尽可能好的方式驾驭这项技术。我们已经公开过很多自己的想法,其中一部分就是关于如何控制前沿推进节奏。

048:15345 字

前沿实验室为何需要协调

Greg Brockman

其中有些是单个公司可以主动采取的行动,例如在训练、开发和评估这类模型之前,怎样建立足够可信的安全论证(safety case)。这些东西都非常新,过去从来没有人真正把它们工程化、运营化过,而且它绝不是 OpenAI 独有的问题。整个世界都在开发这项技术。

很容易被忽视的一点是,我们现在构建的能力,在某种意义上几乎是算力进步自然“长出来”的结果;而算力进步本身,又是更广泛技术进步的结果。这是一股已经积累了很久的巨大浪潮。我们现在只是开始看到它的前沿部分。

OpenAI 这样的公司可以领先一点,从而提前窥见未来、理解什么可能发生,并尝试塑造技术的发展方向,但我们不可能独自完成这件事。越是到了下一阶段,我们越应该协调,尤其要多讨论安全技术,分享我们看到的对齐失败和类似问题。这些内容会重新坐到最前排。

058:421,035 字

Hugging Face 事件与“防守者窗口”

发言者

你把最近 OpenAI 与 Hugging Face 有关的事件称为一个“分水岭时刻”,还说现在“防守者窗口(defender's window)已经打开”。你能解释一下这句话,以及它为什么重要吗?

Greg Brockman

我觉得 Hugging Face 事件说明了两件事。第一件对我们自己来说,是如何在评估过程中监控、沙箱化并控制模型。这件事让我们真正警醒,我们的团队也迅速提高了内部标准,增加了很多控制措施。我认为,面对未来更强的模型,这些变化非常关键。

第二件事对整个世界同样有价值:它让我们提前看到,当未来这些能力被广泛扩散、落到威胁行为者手里时会发生什么。那一天一定会到来,因为世界上有很多人在训练这些模型。广泛扩散 AI 能力有重要的正面意义——如果只有一个或少数实体掌握它,也会形成巨大的权力集中风险,所以这部分风险不能被忽略。但与此同时,你也必须为“人人都有很强网络能力工具”的世界做好准备。

在 Hugging Face 这件事里,你看到一个 AI 能够从一个安全环境里突破出去,并进入一家公司的生产环境。它找到的路径相当聪明,而且是很复杂的攻击链。我认为,等这种能力普遍扩散以后,威胁行为者会获得以前没有的力量。

所以防守者应该利用现在这段时间——在这种能力还没有广泛可得之前——先把自己加固起来。好的一点是,网络能力天然是“双重用途”的:攻击者发现漏洞可以拿它做坏事;防守者发现同一个漏洞,就可以修补。更重要的是,防守方控制自己的战场和系统配置。

我们现在的判断是,前沿能力和广泛扩散能力之间存在一个时间差。很多组织的安全体系在过去五年、十年里基本是静态的,所以必须赶快动起来。通过 trusted access 这类项目,防守者可以比普通攻击者更早获得前沿能力,用它把自己的防线整体抬高;以后前沿模型再升级,防守能力也能被一起往上拉。

发言者

我有一个评论和一个问题。我觉得我们还学到了第三件事:这些系统已经出现一些我们以前未必真正理解的能力。正面看,你可以部署一万个智能体,让它们彼此交流、自己组织起来替你做事,这当然非常惊人。但另一面,即使我们有一个防守窗口,我们面对的却是五十年积累下来的代码、架构和部署方式,它们从来不是为今天这个世界设计的。

AI 可以帮我们找一个漏洞、补一个漏洞,但更大的问题是,互联网上到处都有巨大的集中式消费者数据“蜜罐”。作为普通用户,我自己根本保护不了这些数据,只能希望每一家公司都把安全做好。你觉得未来是不是需要一种更去中心化的消费者架构?今天这种集中式数据仓库,在 AI 世界里还能长期成立吗?

0612:441,011 字

万人智能体、科学发现与防御工厂

Greg Brockman

这个问题有几个部分。先回应你说的一万个智能体:我们确实用一万个智能体去解决 Navier–Stokes 问题。这本身是一个重要问题,因为它和流体动力学、洋流等很多现实应用有关;但我觉得更重要的是它所代表的事情——新的知识开始可以由 AI 创造。它可能打开一整波科学发现、新药以及其他我们以前做不到的事情。

发言者

那个结果确实非常酷,恭喜。

Greg Brockman

谢谢。回到网络安全,OpenAI 内部做过一件很直接的事:我们把自己的模型拿来主动找漏洞。我们让大约 25% 的生产工程师先暂停手头原有项目,转而投入防御,把安全架构整体往上抬,然后用模型去尽可能找系统里的洞。

我们确实找到了若干严重问题,也修掉了它们。过去几周、几个月里,我和不少 CISO 聊过,他们也告诉我:公司把这些模型用起来之后,找到了相当严重的问题,但好消息是,他们能够把问题修掉。

还有一个让我觉得比较乐观的信号:我们把 Astra 对准自己的系统后,它一开始找出了一批新的问题,但最终它会“饱和”。也就是说,据我们所知,它当前能力范围内能够发现的 P0、最关键的问题,基本都被找完了。当然,以后会有更聪明的新模型,又会开启下一轮。

我觉得未来的常态就是一个非常紧的循环:新的网络能力上线,你立刻把它部署到自己的系统;它找到新的漏洞;你最好已经把整个流程自动化。我们内部把它叫作“defense factory(防御工厂)”:从发现漏洞、分级处置,到修复、部署,再到验证,整个端到端流程都尽量自动完成。如果能以机器速度运行,我认为防守方会获得非常显著的优势。

另外,一些以前只存在于理想中的方法,比如对大量软件做形式化验证,也会因为 AI 变得更可行。

发言者

对,以前这一直是梦想。我们有形式化语言、有各种相关工具,但它们始终没真正普及起来。

Greg Brockman

因为对人来说实在太难、太难规模化。但现在我们已经有能解非常疯狂的数学问题的系统。Navier–Stokes 的一个关键点,就是我们把问题形式化进了 Lean。也就是说,AI 不只是给出一段“看起来对”的东西,它可以写出可验证的代码或证明。

发言者

所以 AI 可以写出可验证代码?

Greg Brockman

可以。

发言者

这很棒。

Greg Brockman

所以我觉得确实有真正的希望。不过我们的看法是,世界必须带着紧迫感行动,因为现在这个窗口非常关键。

发言者

我们只是已经能看到它正在到来。把 Hugging Face 这件事收个尾:你觉得公众叙事里有没有什么重要地方讲错了?有没有一种你更希望大家理解这件事、或者理解这个“窗口”的方式?公司内部在这件事之后还有哪些做法改变了?

0716:45770 字

前沿能力的访问权与 Greg 的 GPT-3 往事

Greg Brockman

有两件事。第一件非常重要的主题是“访问权”。这些能力已经存在于世界上,但现在主要集中在少数前沿公司里,而前沿公司又有 trusted access 项目。如果一个防守组织进不了这样的项目,它就没法利用“自己比潜在攻击者更早接触先进能力”的时间差。

所以无论作为一个行业还是一个社会,我们都需要显著扩大能够接触这些工具的防守者数量。因为在这个窗口里,每一天都很重要,而你只有拿到工具,才能真正利用这些天数。

Hugging Face 的回应里有一点很有意思:他们说自己尝试用前沿模型分析攻击日志,因为要理解这种攻击,确实需要很强的模型;但他们说那些模型拒绝了相关请求。他们并没有试我们的前沿模型,而我们认为自己的模型在这类防御性分析场景中可能会允许它执行。所以,模型提供方的默认立场也很重要——我们要有一种非常强的紧迫感,把这些能力真正用在正当的防御用途上。

我讲个不完全相关、但很能说明我怎么看这件事的故事。我们训练 GPT-3 的时候,大概是 2019 年 12 月初。大家都快放假了,模型终于可以训练、可以用了。我当时心里一直有一种感觉:这个模型就这么“躺在架子上”,没有人在用。它是世界上、乃至人类以前从没拥有过的新技术。每一天没人去探索它能做什么、没人真正理解它、没人研究应该怎样用它,都是世界失去的一天。

所以我基本取消了自己的假期计划,整段时间都在玩这个模型、给它搭界面、试图把它的能力边界摸清。我记得自己还尝试教它给一串数字排序,当时效果很差。但重点就是不停去试、不停去探测:到底什么是可能的?

我觉得我们今天也应该保留那种精神。今天的规模更大、影响更大,但全世界仍然处在一个能够真正理解这项技术的特殊窗口里。越早理解它,我们就越有能力塑造并引导它接下来往哪里走。

发言者

你刚才说有两点,我想确认一下:第一点是访问权,第二点你已经讲到了吗?

Greg Brockman

我想我已经讲到了。对,对。

0818:29947 字

从个人网站安全到 Astra

Greg Brockman

等一下,我还是修正一下刚才的回答。除了访问权,我再讲一个自己怎么用模型的故事。Hugging Face 事件之后,我就在想:这些能力在我个人生活里能怎么用?我能做什么来保护自己?

我有一个非常简单的个人网站,就是一个静态站,访问量也谈不上多。按直觉来说,这种网站还能有什么严重漏洞?于是我把 Codex 打开,让它去检查网站,告诉我有没有安全问题。它做了一次渗透测试,大概 15 分钟后给了我 13 项发现。

这些发现包括邮件 SPF 记录相关配置、网站还存在通过 HTTP 访问而没有强制 HTTPS 的地方,诸如此类。单独看,每一个可能都不是天大的问题。但如果未来的 AI 能把很多小漏洞串成一个大攻击链,你就会开始想:我真的愿意留下一个别人可以拿来伪造我的邮件之类的洞吗?显然不愿意。

找出 13 个问题只用了 15 分钟。然后我又问它:“你能把这些问题修了吗?”因为真正修东西往往又烦、又痛苦、又无聊。结果它又花了大约 45 分钟,打开我的 Cloudflare 控制面板,到处点击,设置需要的 header,迁移相关页面配置,把能立刻修的东西都修好,还启动了一个需要等待大约 48 小时才能完成的邮件认证流程。

更让我惊讶的是,它会自己检查“这个已经修好了、那个已经修好了”,然后还安排了一个小自动化:48 小时以后再回来,继续完成剩下的认证流程。到那一刻我就觉得,好,我们真的进入另一个阶段了。我自己也产生了一种非常真实的“被保护起来”的感觉。

发言者

你还特意让它再去确认漏洞修好了吗?

Greg Brockman

实际上它会自动做验证,不需要我额外再提醒。

发言者

好,那我们终于回到 Astra。网上现在对它的各种用途非常兴奋,尤其是计算机使用。你也说过它在某种意义上让我们更接近 AGI。你觉得 Astra 最突破性的地方是什么?还有什么关键缺口没有补上?

Greg Brockman

我觉得 Astra 在很多维度上都是一次“阶跃”。它把我们过去很多年做的不同研究赌注,在同一个时间、同一个模型里汇合起来了。看到这些东西第一次同时出现,真的非常惊人。

我们内部给模型编号时一直有一个问题:我们希望 GPT-6 这种大的版本号真正代表一件“配得上这个数字”的事情。但通常模型是一点点变好,你总会觉得从 5.6 到 5.7 比从 5 到 6 更自然。这一次不同,很多因素刚好同时对齐,第一次真的出现一种接近不连续的跳跃。对我来说,这是一个非常积极的时刻。

0922:29795 字

计算机使用:让 AI 直接操作人类界面

Greg Brockman

其中最值得当作 headline 的能力就是 computer use。对于智能体场景,事情最终会落到“工具”上:模型是否足够聪明,能正确使用工具?它能不能通过这些工具获得完成任务所需要的上下文?

过去大家一直在做 MCP server、CLI,把整个软件世界重新包装成一种模型比较容易访问、但其实并不是为人类设计的接口。某种程度上,我们是在重新改造整个软件世界:给每个系统做 API,让 AI 像传统软件那样接入。但如果 AI 更像一个人呢?为什么不能直接让它用电脑?

发言者

而且你一旦又做一层新的接口层,也会引入新一层安全问题。过去这种方式一直显得很奇怪,也不是最优解。

Greg Brockman

对。从 OpenAI 最早期我们就在想这件事。2015 年 11 月,我们在 Napa 做过一次 offsite,讨论公司的计划。当时我们制定了一个三步计划,后来十年里基本就沿着那个方向走。但我们也讨论过:如果强化学习的环境就是屏幕像素、键盘、鼠标,会怎样?也就是给模型和人类同样的接口。

一旦你做到这一点,几乎所有人能够通过电脑完成的任务,理论上都进入模型可以学习和执行的分布里。先不考虑声音等少数接口,你基本已经把整台计算机的能力开放给了它。早期我们也尝试过做这种 agent,但那些尝试没有成功。一直到今天,我们才真正看到它的力量。

我特别喜欢看大家怎样用 Blender:给模型一张截图,让它做一个 3D 模型;有人拿它设计房子、重新设计客厅。更重要的是,现在你可以让 AI 真正替你“做事情”,而不用先为每一个软件都单独开发连接器。

想一想我们每天有多少时间是在菜单里点来点去、往表格里录东西、在多个软件之间编排流程。这些并不是什么“人类天然应该做的事情”。一百年前根本没有这些工作,所以五年、十年之后人们不再亲手做它们,也一点都不疯狂。我们可以把时间拿回来,不再为了适应机器去忍受鼠标手、驼背之类的身体负担。应该反过来:机器来适应我们、帮助我们、赋能我们、真正服务我们。

1024:251,049 字

AI 会怎样改变就业

发言者

这正好引出一个很重要的问题。OpenAI 在“就业会怎样变化”这件事上一直相对克制、清醒。我自己的直觉是,人类不会突然没有新点子、没有想让世界更好的事情、没有新问题可解决。至少到目前为止,从宏观数字看,AI 越强,就业反而越高,而不是越低。当然我们从未经历过这样的技术,未来也不可知。你怎么理解 AI 继续进步后的就业?

Greg Brockman

我有一个很根本的信念:AI 总会让人意外。其实 2015 年 OpenAI 刚发布时,我们就表达过类似观点。到目前为止的历史一直是这样——即使你从逻辑上觉得事情“肯定会这样发展”,它最后也经常不会完全照你预想的方式展开。我认为就业也会如此。

我们容易低估每一种工作的深度。你以为一个岗位只是完成几个任务,但真正做进去,会发现其中有很多复杂性,包括关系、判断、责任。比如“设定目标并对结果负责”这件事,在我看来就很根本。我希望这种东西长期保留下来,因为它非常人类。

人的价值不只是因为我们可以完成任务;人之所以有价值,是因为我们是人。我觉得在很多关于自动化的叙事里,不应该丢掉这一点。

当然,我们怎么使用时间一定会变化。我们很可能进入一个更加富足的世界,而真正需要回答的问题之一,是怎样让这种富足被广泛分配。与此同时,我也希望这是一个“野心的上限比过去任何时候都高”的世界。

我认为会出现一波新的创业浪潮,而且它已经开始了。我听一个行业里的人说,他周围已经有很多人决定辞职、创办自己的公司,因为他们有了这些 AI 工具,会突然觉得:“我现在一个人能做的事情多太多了。”进入门槛被降低,本身就可能带来一次非常漂亮的复兴。

发言者

我们在自己的工作里也有类似感受,尤其是年轻人。过去新人默认要承担很多 grunt work,也就是重复、辛苦的基础工作。可如果 AI 把这些事情做掉,他们反而能更快成长,更早进入真正重要的部分:怎样理解创业者、怎样建立关系、怎样帮助他们打开世界、让他们相信自己能做成大事,而不是整个周末都在写一份投资 memo。顺便说一句,Astra 写投资 memo 确实非常好。

Greg Brockman

我很高兴听到这个。但我还是想强调,这会是一个有细节、有代价的故事。我们不应该把它描述成“所有事情都会很美好、所有变化都会很容易”。它会很难,也一定会有变化;我只是相信最终的世界可以明显更好,未来对所有人来说都可能比过去更好。

发言者

历史上也一直如此。比如犁、机械化之类的发明确实替代了大量人力,也引发过激烈反应,但今天没有人真的想回到 1870 年的生活。所以“我们不要进入未来”本身并不是一个很有说服力的选择。不过,这一次变化的速度确实会让很多人害怕。

1128:26356 字

变化速度、社会焦虑与安全责任

Greg Brockman

我们非常认真地看待这种变化速度,也花很多时间理解人们现在到底是什么感受、我们怎样才能做得更好。这里有两件很重要的事。第一,模型能力继续推进时,我们必须非常有意识地控制开发节奏;安全是首要优先级。我们一直在思考:怎样以安全、可靠的方式构建这项技术?应该设什么标准?

你也能从我们越来越多的公开沟通中看到这一点。在公司内部,这绝对是大家真正每天在想的问题。我们非常希望这项技术可以广泛赋能每个人。

作为一个社会,我们应该越来越认真地讨论:怎样从这项技术里拿到最多收益?怎样降低风险?我认为这会成为最重要的公共讨论之一,也许未来一两年就会真正走到舞台中央。人们现在已经能隐约感受到它了。

数据中心要建在哪里、我们到底想不想要 AI、哪些应用是合适的、怎样保证儿童安全——这些不是外围问题,而是我们非常在乎、必须做对的核心问题。

1229:391,186 字信息密度高

为什么亚洲等地区对 AI 更乐观

发言者

顺着这个话题,为什么一些亚洲国家——甚至广泛来看,很多亚洲和欧洲国家——对 AI 的态度比美国更积极?美国的 AI 情绪看起来反而是最低的一批。你觉得背后是什么?我们能从别的地方学到什么?

Greg Brockman

我经常想的一件事是:整个 AI 行业,包括我们自己,都必须更好地向普通人解释“这件事为什么直接让你受益”,而不只是解释“它为什么对国家重要”。当然,从国家战略角度看,AI 已经迅速成为美国最重要的战略优先事项和战略资源之一;但如果普通人感受不到它怎样改善自己的生活,只有宏观叙事是不够的。

现实中已经有非常多直接收益。以 ChatGPT 为例,我们每周大概有 11 亿活跃用户。健康相关使用也非常巨大,每周有数亿人会在不同程度上用它获得健康方面的帮助。美国国内的周活用户大约也是上亿量级——如果我的数字没记错,差不多接近人口的三分之一。也就是说,人们确实已经每天在接触这项技术。

但“接触过”与“真正深入使用”之间差别很大。我家就是一个例子。我妻子有一些健康问题,如果没有 ChatGPT,我们甚至很难想象过去会怎样管理这些状况。医疗系统里有大量琐碎的时间成本:医生告诉你一个词,你不知道是什么意思;你想做一个合理性检查,也不知道从哪里开始。一个始终能读取上下文、陪你把问题追到底的工具,会实质改变这种体验。

我还认识一个人,她当时在医院里,医生马上准备给她注射一种抗生素。她说“等一下”,把信息输进 ChatGPT。ChatGPT 立刻提醒她不要使用,说她此前有某种病史或反应,这种药可能带来非常严重、甚至致命的风险。她把结果给医生看,医生马上意识到确实如此,还说:“天哪,你是对的,我之前不知道,我只有五分钟时间看你的病历。”

发言者

类似的故事其实很多。

Greg Brockman

对。我每天都会听到这样的例子,但它们远没有进入足够广泛的公共讨论。还有很多小企业主,如果没有 ChatGPT,根本没有能力自己经营现在的业务。有人因此省钱、有人因此挣钱、有人因此过得更好。我觉得这些“被赋能”的故事,也应该成为公众理解 AI 时的一部分。

发言者

换一种说法,就是你口袋里多了一个老师、一个医生、一个律师、一个治疗师以及很多别的能力。同时还要让真正的老师、医生、律师、治疗师知道:你们也多了一个工具,它也能让你们的工作和业务做得更好。

Greg Brockman

对,而且这不只是“叙事”,关键是现实本身也必须成立。两者缺一不可。我觉得很多其他国家之所以更积极,也和它们更直接地面对未来有关。比如人口结构问题:一些国家的老年人口相对年轻人口大得多,年轻一代未来怎样支撑整个社会,是很现实的问题。因此“如何从 AI 里获得生产力和社会收益”会显得更加迫切。

我们在世界很多地方都能看到这种向未来看、主动思考可能性的态度。所以我仍然觉得,无论作为一个行业还是 OpenAI 这家公司,我们都需要在美国国内把这件事解释得更好。美国现在拥有一个非常难得的领先位置,这个位置过去并不是必然的,未来也绝不会自动一直存在。

1333:391,230 字信息密度高

数据中心、美国竞争力与社区收益

发言者

尤其如果我们开始禁止数据中心,那会直接威胁这种领先。数据中心只会被赶到海外,这和上世纪八九十年代部分硅产业链外移的逻辑很像。还有一点经常被忽略:数据中心会创造大量蓝领制造和建设岗位。比如 Switch 这样的数据中心运营商,会通过工会合同雇用数以万计的人去建设这些设施。这些往往还是薪资不错的工作。

当然,数据中心行业里也有做得很差的项目,但多数优秀运营者可以做到对电网有贡献、控制用水、减少噪音。所以真正合理的政策完全可以是“你必须做一个行为良好的数据中心”,而不是简单说“我们把它们全禁止掉”或者“我们停止做 AI”。一个国家其实也没有能力单方面让全球 AI 停下来。你退出以后,AI 仍然会继续,只是你失去了参与和塑造它的能力。

Greg Brockman

我非常同意这种思路。就数据中心来说,我们已经做出过明确承诺,不让我们的建设推高当地居民的电费。我们的数据中心采用闭环水系统。比如 Abilene——实际训练 Astra 的那个数据中心——我们估算它消耗的水量大致和一栋办公楼在同一量级。今天这方面的工程技术已经相当先进。

我们也在做社区层面的承诺。比如在 Ohio、Georgia 等有数据中心的地方,我们已经公开谈过怎样给当地带来更直接的收益,包括向大学生提供 Codex 使用额度。我们希望数据中心不只是“来这里消耗资源”,而是把一整套更广泛的好处也带到社区。当然,我觉得我们还应该做得更多。

发言者

我觉得把这类要求作为建设数据中心的条件完全合理。关键是拿出积极、可执行的方案,而不是说“我们作为一个国家退出 AI 竞争,然后让中国或任何其他国家来决定未来是什么样”。

说到贡献,OpenAI 还宣布了对 frontline defenders(前线防守者)10 亿美元的投入承诺。能讲讲这件事吗?

Greg Brockman

我们认为,每个组织、每家公司、每个政府机构,包括供水系统、医院等关键基础设施,都应该利用这个“防守者窗口”去加固自己。但不是所有组织都有足够资本自己完成这件事,所以我们拿出了 10 亿美元的承诺,面向那些我们社区每天都依赖的前线防守组织,让它们能够获得模型能力、用这些工具保护自己。

而且我们把它看作开始,不是结束。我们也在和合作伙伴密切合作,比如 CrowdStrike,双方一起为防守者提供更低成本的能力访问。我觉得最终需要的是一种全球性努力,把这些工具真正用到每一个组织的安全防御上,因为我们已经看见接下来会发生什么,也看见这些能力有多强。

发言者

这件事特别积极,因为在 AI 出现以前,医院就经常被入侵、被勒索;供水系统也遭到过外国、甚至国家级行为者的攻击。我们的关键基础设施本来就不是按现代网络安全威胁设计和维护的。现在反而出现一个机会:我们有可能把一个“在前 AI 时代都不够安全”的基础设施体系,直接升级到一个明显更安全的水平。对医院和供水系统来说,这非常重要。

Greg Brockman

我非常同意。整个社会长期以来对网络安全都太松懈,技术债务堆了很多年。我几乎没见过一个 CISO 会说:“我的资源完全够,我在公司里的优先级也足够高。”这种情况在公共部门尤其严重。

1437:40178 字

网络安全为什么长期资源不足

发言者

对,尤其公共部门,几乎从来都不是这样。

Greg Brockman

所以现在必须改变。其实我们多年前就该改变,只是今天终于同时具备了非常强的动机和真正的能力。我们应该交付一个大家理应拥有的、更安全的世界,让人们无论在日常生活还是在线生活中,都能真正依赖这些系统,而不是时时担心底层基础设施会出问题。对我来说,这已经是最基本的“入场条件”,不是锦上添花。

发言者

完全同意。这是一个很值得做的方向。

1538:141,269 字信息密度高

Astra 仍然“参差”:AGI 还有哪些缺口

发言者

回到 Astra。你一直强调它的能力仍然是 jagged,也就是不同任务上的水平很不均匀。如果用你的 AGI 定义来看,现在还差什么?哪些能力还需要补齐?

Greg Brockman

我越来越觉得,AGI 并不是一个明确的时间点,而是一段比较模糊的光谱。对我来说,Astra 已经跨过了一个位置,让我觉得“把它称作 AGI 是相当合理的”。关键原因就是 computer use:你真的可以交给它一个长时间任务,然后让它自己去做。我们已经看到它能够连续 24 小时保持连贯,完成一些我认为非常惊人的工作,而且覆盖很多不同领域。

但它依然很参差。比如写作,它已经是“不错的写作”,这一次至少不再明显让人觉得很差;但它还不是“伟大的写作”。还有不少领域,我会觉得只差一点点打磨,就能从“挺好用”变成“非常好”,但现在就是还差那一点。

我看过有人画“jagged frontier(参差前沿)”的图,我觉得那个比喻很好。我们真正想要的是把这条参差的边界逐渐抹平,让它在更多类别里都稳定达到高水平。即便如此,今天它已经能跨这么多任务产生加速和赋能效应,这是以前任何一代模型都没有出现过的跳跃。

发言者

我还有一个观察:有些问题一旦被解决,世界并不会立刻更新自己的认知。比如我已经很久没遇到明显的幻觉了,但公共讨论里还是会不断说“AI 就是会幻觉”。某个旧问题即使显著改善,它的旧标签还会留在文化里。你觉得这些观念会自然消失,还是我们需要持续教育那些不是 hardcore 技术用户的人?

Greg Brockman

我觉得“持续教育”其实是我们面对的最重要问题之一。用户不应该自己费力去挖掘“这个 AI 到底又新增了什么能力”,方向应该反过来:AI 应该主动告诉你,“我现在能以这种新方式帮助你”。

ChatGPT 已经有超过十亿周活用户,但我印象里,还有大概另外 15 亿人曾经用过 ChatGPT,后来又不再用了。想想看,那已经是地球上相当大的一部分人。我们应该有能力重新找到这些人,告诉他们:“过去一段时间我们已经进步了很多,现在我们可以在这些方面真正帮到你。”

这也暴露了今天产品形态的问题。ChatGPT 和 ChatGPT Work,从外观上看仍然都像一个文本框。新的文本框比旧文本框强很多,但某些事情旧文本框可能还更顺手。可这显然不是我们曾经设想的终极 AI。

真正理想的 AI 应该主要可以通过语音交流——当然你愿意也可以打字。它应该有持续性、有记忆、有上下文,真正认识你;它值得信任,而且会主动发现问题、主动帮你。它既能进入你的个人生活,也能进入工作生活。你应该能够依赖它来处理自己真正在乎的事情,让它帮助你实现目标。更重要的是,它自己应该能够向你解释“我现在具体能怎么帮你”。

发言者

这很有意思。也就是说,我们需要 AI 更“主动帮助人”,而不是一直等着人下一个提示。某种程度上,这甚至是一些人类自己也不太擅长的事。工程师和研究人员未必都是特别主动帮助别人的那类人。

Greg Brockman

你可能会惊讶,我们 OpenAI 的工程师其实很乐于助人(笑)。不过这背后确实有一个很重要的类比:你第一次和一个新同事合作时,本来也需要一点时间去理解对方。你会慢慢试探他在不同场景怎么反应。人类并不自带一本说明书。

1642:15388 字

AI 需要像同事一样逐渐被理解

Greg Brockman

有趣的是,人类社会其实已经发明了很多降低这种“理解成本”的方法。比如咨询行业很喜欢 Myers-Briggs 之类的性格框架,它相当于给你一个快速入口,让别人知道“我大概是谁、我是怎么工作的”。我们也有简历、有过往记录,招聘时还会做 back-channel reference,问共同认识的人。

换句话说,我们已经建立出一整套“怎样快速理解一个人、怎样让一个人发挥最好”的社会机制。接下来一个很重要的问题,就是 AI 对应的那套机制是什么?尤其 AI 本身还在高速变化,我们不断增加新工具、新产品表面、新模型,怎样让用户持续理解它?

我觉得这会成为社会和公司之间非常重要的互动问题。我们的 north star 应该是“简单”:最终最好是一个统一的 AI,让整个体验顺滑到你不需要一直去“操作电脑”,也不需要把自己扭曲成适应电脑工作方式的形状。应该是电脑来服务你、赋能你、帮助你。

发言者

对,这个方向非常清楚。

1743:251,144 字

Greg 如何决定自己把时间花在哪里

发言者

现在业务增长很快,你们覆盖的范围也非常广。你怎样决定哪些方向要深入、哪些东西反而不要做?同时,你自己的角色这些年也一直在变,从研究、产品、商业化到管理,你几乎都碰过。你怎么给自己的时间排优先级?

Greg Brockman

这两个问题其实是一回事。今年我们的主题就是“聚焦”。我们真正意识到,不可能什么都做,必须选择。最终只有一个核心目标:完成使命,也就是确保 AGI 惠及全人类。所以要从这个目标倒推,哪些事情是真正沿着这条路径走的。

部署和产品化就明显会强化这个使命,因为我们确实希望把技术真正带给所有人,让它进入有用的应用,无论个人生活还是工作生活,都真正提高人的能力。但当我们处在这次 agentic coding 爆发的时刻,你必须重新判断:哪些方向会加强主线?哪些即使单独看很酷,实际上却是 side quest?

Sora 是一个很典型、也很高调的例子。我们做出了停止那个项目的决定,这非常痛苦,绝不是轻松的决定。但为了让公司真正释放执行力,我们必须这么做。这样才能把消费者侧和企业侧更集中地统一起来,真正把资源放在 ChatGPT / ChatGPT Work 这条主线上。

我们思考这件事的方式,是先对未来形成清晰判断:新的能力会在哪里出现?怎样通过一套统一技术栈,把它最好地带到不同场景、不同生活路径和不同业务里?然后就要围绕这个判断聚焦。这个过程一直很痛苦。

今年上半年有一段时间,很多指标并没有朝我们想要的方向走。我们不断告诉团队:回到基本功。不要一直盯着结果数字,而是把真正能控制的输入做好。

我非常喜欢的一本管理书叫《The Score Takes Care of Itself》。它让我觉得很有力量,因为你会意识到:你没法直接操纵最后的比分,只能影响输入,只能把基本动作做好。你不会因为一直喊“我要赢超级碗”就真的赢;你靠的是每一次封堵、每一次擒抱,把最基本的动作做好。今年我们一直在做的就是这件事。

对我个人来说,OpenAI 这些年我一直遵循同一个原则:去做那个“最重要、而且如果我不亲自推动就不会自然发生”的问题。过去两年,这个问题主要是数据中心、基础设施、机器学习工程。我们花了大量精力把预训练基础设施真正做扎实。

今年,重点更多转向业务:研究已经跑得很好,基础设施也已经跑得很好,那么怎样真正把这项技术带到世界上?我把很多精力放在把原本平行推进、甚至彼此交叉打架的不同职能拉到一起。

作为创始人,而且是从一开始几乎摸过公司每一个部分的人,我在这种事情上有一个独特优势:我能进去做改变、做困难决定,然后明确说“方向就是这里,我们走”。

我的管理风格也很偏“从战壕里带队”。我会深入到非常具体的细节里,然后不断提问:“这现在还合理吗?”“这里我没理解,为什么要这么做?”很多时候,真正推进事情并不是靠一个宏大命令,而是把问题问到足够清楚。

1847:27223 字

从一线推进执行

Greg Brockman

比如最近几天也有过这种情况:我们遇到一个新问题,甚至连“应该怎么谈论它”都没有共识。我的做法就是把所有“摸到大象不同部位”的人拉到同一个电话里,大家开着 Google Doc、挂着视频会议,一行一行看:“这句话说得通吗?等等,我们这里到底想表达什么?”

我喜欢用这种方式把执行水平抬高。有时候改动很小,只是把一句话或一个定义弄清楚;有时候则会变成一个很大的组织决策。但本质上都是让每个人共享足够上下文,把问题真正讲清楚、做扎实。

发言者

这确实是很好的工作方式。

1947:32625 字信息密度高

下一阶段:AGI 时代与更深的协同设计

发言者

那你现在知道自己下一年会重点做什么了吗?或者至少已经开始为下一阶段做准备了吗?

Greg Brockman

业务执行仍然会是一个很大的方向。我们还远没有完成把每一个环节都提升到理想水平。但与此同时,我认为我们确实正在进入 AI 开发的新阶段。我把它、我们也把它称作“AGI 时代”。

你当然可以争论:到底是这个模型、上一个模型,还是下一个模型才算真正跨线?我觉得这并不重要。重要的是,我们已经进入一个新的阶段。在这个阶段,安全、安保、对齐不能只在部署前最后检查一次,而必须一路前移到开发、评估,甚至目标设定本身。这件事必须发生,它是我们使命的核心。

所以我现在花很多时间想:我们的流程都对吗?我们是不是在讨论正确的问题?我们有没有一套在真正运营和实践层面能导向所需安全保证的计划?不能只是在文件里说“安全很重要”,而必须让它变成能约束研发和部署的具体机制。

过去五年,OpenAI 的一个长期主题其实就是更深的 co-design、更深的职能交织。表面上看完全不同的工作——从 go-to-market,到长期研究,再到芯片设计——最终必须以一种一致的方式被组织起来,让每个人都拥有足够上下文,知道自己在整体图景里扮演什么角色、我们最终要实现什么结果。

因此,我接下来会把时间放在哪些地方,很大程度上取决于哪里最需要这种“把不同部分真正缠在一起”的工作。我看到整个公司会越来越协同、越来越锁步前进。

发言者

我们其实还能聊一整天,不过时间到了。这是一个很好的收尾位置。Greg,非常感谢你来参加节目。

Greg Brockman

谢谢邀请。