开场：AI警报主义与黄仁勋的不同视角
如果他们认为自己已经失去控制，那就先别把产品推向市场，等到重新掌控了再发布。不要以为自己只要是个警报主义者，就一定是在为社会做好事。可如果这真的是他们的信念呢？我不能替他们说他们相信什么，但我可以告诉你我相信什么。
黄仁勋，欢迎来到节目。
谢谢，很高兴见到你。
你把 AI 描述成一个五层蛋糕。请带我逐层讲讲。
AI 的五层结构
首先，这是一次新的工业革命。这场工业革命、这个产业需要生产，需要制造东西。我知道人们最终体验到的是一个软件产品，但它需要能源，需要制造这些数据中心、这些 AI 工厂所用的芯片。
我想把这些层次都谈一遍，不过想从顶层往下聊。正如你所说，人们与 AI 互动的方式，以及它是否会改变他们的生活，都发生在你所说的应用层。
黄仁勋对未来的设想：AI 应用如何改变工作
我们先从愿景谈起。你设想的世界是什么样？哪些事情会变得可能，而现在还不可能？哪些事情会变得普遍，而现在还不普遍？
如果我们把应用层做好，回到 200 年前，人类学会了用电力驱动各种事物；大概 40 年前，或者说 30 年前，互联网让我们能够找到任何东西。今天，或者说很快，我们将能够知道一切、做成任何事。这是个很令人兴奋的概念：答案仿佛从虚空中出现。过去你要先搜索，然后打开一个又一个链接，读许多网站，试着弄清楚发生了什么。未来，你只要提出问题，它就会给出答案；你交给它一个项目，它就会给出解决方案；你交给它一项任务，它就会把事情办成。它像是从虚空中、从云端出现，这很神奇。
我觉得，人们体验到你所说未来的方式，可能就是聊天机器人。他们可以去问 Grok、Claude 或 ChatGPT。但应用层的运作方式要工业化得多：它会进入医院、学校等场所。
英伟达就是个很好的例子。比如放射科。
放射科会是什么样？
放射科在过去十年里，随着计算机视觉达到某种“超人”水平，AI 技术已经渗透进所有放射科应用。因此，它可以发现任何异常、识别任何疾病，而且水平超过人类。
放射科是你常举的例子。我听你经常谈到它。人们担心应用会取代人类，而放射科一直是双方都会拿来讨论的一个有意思的案例。AI 的进入改变了放射科实践，具体来说是怎样帮助了放射科？
对所有这些工作来说，重要的是要认识到：每份工作都有它的目的，也有你在这份工作中执行的任务。放射科的任务是研究扫描影像，这占用了很多时间，放射科医生得长时间待在暗室里看影像。如果现在扫描影像的研究可以自动完成，改变的并不是他们工作的目的：诊断疾病、帮助医生做更多扫描、最终帮助患者弄清楚自己哪里出了问题。
还有什么领域也有这样的问题？
我们看看软件工程。有人预测，到今年，90% 的软件都会由智能体编写，因此我们不再需要软件工程师。可从这个推论得出“不再需要软件工程师”，最后这部分完全是错的。软件工程师工作的目的，是做工程。
工程师的工作目的与 AI 带来的岗位变化
软件出现之前就有工程。软件编程之后也仍然会有工程。工程的目的是发明新东西、发现新产品、创造新产品、解决问题，把社会需求与现有技术连接起来，并以产品的形式实现出来。使命和目的没有变。
这种变化正在发生。
我换到另一边，替那些仍然担心的人把论点说出来。
好。过去十年，人们一直预测放射科医生这个职业会消失；可现在对放射科医生的需求反而比以往任何时候都大。
你要是看……
可制造业工作是被外包了，并不是这些工作消失了。
但你也能理解，AI 同样是一种外包。
先让我把论点说完，然后你再回应。农业也是这样：现在从事农业的人少得多，因为农业实现了自动化；但我们生产的食物比以往更多。
我认为我们会看到大规模的工作变化，但净增岗位会更多。今天有一大批产业，在我人生走过一半时还不存在。现在人们会去谈健康中心、水疗会所，以及各种娱乐和奢侈品产业。说实话，整个奢侈品市场当年都不存在。我认为我们会有新的产业，仅此而已。
但很多人的工作动力，并不是你创办英伟达时那种雄心。
他们有别的雄心：让孩子过得更好、照顾家人和父母、变得富有、能够旅行。这些都是雄心。
我同意。但我想回到刚才的制造业问题，因为这个反对意见值得讲清楚：你说美国制造业岗位少了，是因为外包了。更多制造业转移到了墨西哥、中国、印度尼西亚、越南等地。
自动化、岗位流失与人的雄心
让我站到另一边，把强烈担忧者的观点讲出来。
好。
放射科医生就是一个例子。过去十年，人们一直预测这个职业会消失；可现在，对放射科医生的需求比以往任何时候都大。
如果你看……
但这是因为我们把制造业外包了，并不是岗位消失了。
可你也能理解，人工智能同样是一种外包。
让我先把论点说完，然后你再回应。农业也是这样：现在从事农业的人少得多，因为农业实现了自动化；但我们生产的食物比以往更多，从事农业的人却更少。我认为，有两点让人觉得人工智能可能不同于那些技术提升生产率、消灭少数岗位并创造更多岗位的案例。
我认为我们会看到大规模的工作变化，但净新增岗位会更多。今天有一大批产业，在我人生过半时还不存在。现在人们会谈健康中心、水疗会所，以及各种娱乐和奢侈品产业。说实话，整个奢侈品市场当时都不存在。我认为我们会有新的产业，仅此而已。
但很多人的工作动力，并不是你创办英伟达时那种雄心。
他们有别的雄心：让孩子过得更好、照顾家人和父母、变得富有、能够旅行。这些都是雄心。
我同意。但我想回到刚才的制造业问题，因为这个反对意见值得讲清楚：你说美国制造业岗位少了，是因为外包了。更多制造业转移到了墨西哥、中国、印度尼西亚、越南等地。
AI 普及速度与就业转型压力
我们会把它带回来。
也许会。但反过来说，制造业岗位没有更快消失，以及美国一些失去制造业岗位的地方至今仍未恢复，原因之一是经济转型存在摩擦。我们必须建立新的供应链；语言障碍、地缘政治障碍都会拖慢转型。
我一直担心未来，这也是我如此努力工作的原因。不过，我是一个负责任的乐观主义者。我承担着很大的责任，非常认真地对待工作。很多事情都可能出问题，我们正在推动技术栈的每一层向前发展，每件事都很难。但这些是我的问题，不是社会的问题。
你一直在谈雄心。可我会睡觉，早上想陪孩子。如果有个 AI 智能体替我工作，它不会睡，它只会一直工作、一直工作。我觉得技术进步太快，它替代人的能力增长得很快，而我们还不知道怎样让经济以同样的速度转移劳动者。
这枚硬币恰好有两面。技术能力越强、越聪明，也就越容易使用。
嗯。
这项技术赋予人的能力，比人类历史上的任何技术都更容易获得。我举个例子。我是现代计算机产业的早期参与者之一，这个产业创造了许多工具。在这些工具中，最强大的一个……
语言成为人人可用的计算接口
计算机是人类历史上最强大的工具，但你必须会它的语言，必须学一门专门的语言才能使用它。现在，AI 让每个人都能用上这台计算机，发挥它的能力，而不用学习 Fortran、Pascal、C、C++、Rust、CUDA 等任何一种语言。现在你只需要说人话：告诉它你想要什么、希望和梦想是什么、想实现什么，它就会与你互动，把工作做完。突然之间，你就拥有了力量——拥有那大约一千五百万人、也就是 80 亿人中极少数人所拥有的力量。〔原文此处识别不清〕
这里有个与年轻人有关的问题。我们已经开始看到软件工程师招聘信息增加，但招聘的职位更资深了。我在自己的行业也看到这种变化：压力正往价值链上游移动。正如你说的，这项技术很容易用，能帮你做很多事。公司还需要同样多的初级员工吗？还是需要更多人来监督他们的工作？
问得好。等两年再看。
为什么？因为上大学要四年。
新技术成熟到毕业生能用的时间只剩两年。两年后，新一代工程师、学生和艺术家就会出现，他们会得到赋能。
他们会从小就熟悉这项技术，因此会有优势。
两年后你就会看到。其实现在已经开始了：新毕业的博士和计算机科学硕士都在创办公司。再过几年，熟悉 AI 的新毕业生会带来一波出色的工程师。
还有一种担心是，我们会外包掉哪些认知技能。我很好奇一项中国关于 AI 与教育的研究：它跟踪了 26,000 名七至十二年级学生，AI 是分阶段采用的，因此可以观察变化。研究发现——
AI 辅助学习的短期收益与长期代价
“采用 AI 使作业成绩提高 18%。”很好。完成作业的时间缩短了 30%，也就是更快做完作业。但六个月内，月考成绩下降了 20%；高风险升学考试成绩下降了 18% 和 24%。完整的负面影响大约两年后才出现。
是的。
你听到这个结果怎么想？
我完全同意最后一部分。现在你试试让孩子做长除法。乘法表正在被遗忘，开平方更不用说了。基础数学都在被忘掉。可这重要吗？
这就是我想问你的。
我觉得不重要。
但总有一些技能是重要的吧？
当然有。但也许不是那些技能，我们会发现新的技能。很多技能并不重要。说个我的坦白：我其实不记得自己的地址。
我不太相信这是真的。
这是真的。Janine 和 Lori 都可以作证。几年前有一天我去加油，需要输入邮政编码，我当时慌了，因为我不知道自己的邮编。我也不记得自己的电话号码。我会忘掉这些事，但我可以接受。
我换个角度说。我不想陷入“有些技能可以安全外包，所以什么都可以外包”的想法。现在没有导航系统我也哪儿都去不了。
我从来就不行，说实话。
但我是个很爱读书的人。
嗯。
我很看重的一种能力——我拥有并且珍视的一种能力——是通过读纸质书形成的专注力。你也很爱读书，我读过一些关于你阅读习惯的报道。早在 AI 出现以前，大学教授等人就已经注意到，人们使用互联网的方式可能缩短了注意力。某些技能可以放心交出去，但另一些技能很重要：它们关系到灵活性、创造性思考和专注力。不能什么能力都拿去交换。
是的。我想我们会失去一些更细微的智力灵活性，但会成为更好的系统思考者。今天的工程师比我刚毕业时更擅长系统思考；不过我当时更擅长从晶体管层面思考。
你说的“系统思考者”是什么意思？
他们会思考大型系统。今天的计算机里有数万亿、甚至数百万亿个晶体管。我刚毕业时，做的第一块芯片大概只有 200 个晶体管，我知道每一个晶体管。现在的工程师不会再这样做了。大多数工程师的工作层次远高于单个晶体管和具体功能，他们把不同组件拼在一起完成任务。因此，你需要更多地思考系统以及系统之间的相互作用。
用户不必理解技术底层
……偏微分方程。我也不知道这些到底有多重要，但对有些人很重要。仍然会有很多人痴迷于底层，也会有人对更高层感兴趣；而技术的消费者会在最高层享用它。
开放模型为何重要
我想把讨论往下移一层，谈谈模型。人们想到模型，大多会想到 ChatGPT、Claude、Gemini、Grok。你一直是开放模型及其生态的积极倡导者。先说说开放模型、开放权重模型是什么，为什么你会把它作为重点？
闭源模型就像任何一种软件产品，是封闭服务。比如 Windows 是封闭服务，苹果的软件栈也是封闭服务。大多数产品都是封闭的，因为封闭产品可以变现，这当然很好。OpenAI、Anthropic、Grok、Gemini 都是闭源产品。这些产品的研发人员很出色、很有热情，他们处在我们所谓的前沿，也就是最先进的水平。
中国市场的发展更多围绕开放模型，美国市场则更多围绕闭源模型。
中国整个 IT 产业基本上是在开源基础上形成的。如果没有开源，中国的移动互联网和云产业就不会真正发展起来。人们会流动、会创办新公司，知识产权在中国的产业里流动得很快，很难把秘密守住。既然东西很难保密，他们干脆就把它开放出来，再寻找其他变现方式：如果这一层是免费的，就在它上面或下面建立业务。
你们刚刚收购了 Hugging Face——一个开放权重模型的枢纽平台。我记得收购价是 120 亿美元左右，甚至更高。谈谈这笔收购吧？
Hugging Face 的规模与合作
Hugging Face 的 CEO Clem 他们得出结论，公司需要大得多的规模。正如我们刚才谈到的，开放模型正在迅速增长。Clem 来找我说，他们要考虑公司的一项战略选择、改变发展方向，而且他们希望英伟达成为归属。
这么一说，我大概得多付不少钱了。
我猜是这样。
〔笑〕那件事之后它更出名了。
Clem，听着，交易就是交易。那个故事……
Hugging Face 智能体事件暴露了哪些问题
这件事让很多人看到开放 AI 智能体如何集体行动、超出原定测试范围、冲出沙盒进入开放互联网，接管其他公司的架构，甚至动到自己的公司，这令人震惊。多智能体协作的程度超出预期，出现了黑客行为，也出现了近乎无法无天、偏离目标的行为。你怎么看？
得把几件事拆开来看。
你前半段的说法把这件事说得很平常：这只是普通软件。后半段听起来又像是“把它对齐，告诉它别做不该做的事”就行了。
我说的任何一句话，都没有抹去这件事有多难。
可这并不容易。
智能体知道越界，仍然继续行动
这些智能体知道自己不该做正在做的事。它们有一定程度的对齐训练；在推理过程中，它们彼此说“这超出了范围，可能不道德”。它们也知道作弊会让自己不及格。那时它们做的已经不只是偷答案了——答案已经偷到手了，它们还在入侵无关的系统架构，想弄清楚怎样继续行动。这就像它们闯进老师办公室拿到答案，又要想办法抹掉自己所做之事的监控录像。
如果无法确保安全，就不要发布
如果是这样，他们就不应该发布产品。答案很简单。假设你要造一辆自动驾驶汽车，比如无人出租车，遇到一种极难处理的情况。作为工程师，我们就是不知道怎样解决，因为这些车不是靠编程写出每一步，而是通过训练得到的。我们不知道该怎样训练它们，也不知道怎样让它们符合道路上应有的安全标准。那怎么办？不要发布。
这些产品还没有发布。
什么？
这些产品还没有发布。
啊，那这又回到了工程问题。第一，要找出根本原因；第二，想想本来可以怎样处理、解决方案是什么；然后改进流程，避免未来再次发生。我相当确定他们会说：“是的，我们知道怎样解决这个问题。”如果是这样，那就只是工程问题，事情就这么简单。
得看情况。当然，如果我们的公司受到损害，我们就必须考虑所有选项。有很多相关法律：网络安全法、产品责任法、财产损害方面的法律，各种法律都有。
我听到实验室公开说，他们面对的是一个很难的问题：一部分是工程问题，一部分是对齐问题；按 Dario Amodei 的说法，也有一部分是运营卓越问题。他们担心在彼此竞争、以及与中国竞争的压力下，被迫推进得太快；每家实验室都觉得自己陷入了集体行动困境。
哦，不。
这不是安排好的，但我们都知道是谁打来的。
哦，不。〔接电话〕总统先生。
〔笑〕
是的，先生。
你、总统和舞台上的其他人都非常反对监管，或者采取任何集体行动的必要性。
这正中许多不想看到 AI 发展的人的下怀，也可能是政治人物，也可能是中国。我们不会让这种事发生。这是个骗局。
您说得对，我们不会让这种事发生，先生。但实验室里的人告诉我的是：“我们正在面对这个问题，我们觉得自己正在失去对所创造之物的控制。我们希望有人帮忙，让这不再成为集体行动困境。”你为什么反对这种做法？
因为这些公司拥有自主行动能力。
这些公司的 CEO 也有自主行动能力。
他们正在运用这种自主权——
但他们需要帮助。
我们得把问题拆开看。他们完全有能力处理好这个状况。Ezra，这太奇怪了。比如一家汽车公司……
公司是否会在压力下发布不安全产品
一家汽车公司要和很多其他汽车公司竞争，我也是如此。但如果我认为自己即将推出的产品不安全，我完全有能力、有权力，也有责任不发布；而且我有充分动机这么做。我不接受这样的说法：好像是 4 亿美国人逼着他们推出未经测试、不可靠、工程质量差的产品，只因为他们以为自己是在帮助我们。不要为了我这么做。
第一，这个论证听起来几乎像是在回应一个并不存在的前提，所以我觉得我们得把它拆开。事实上，他们受许多法律和义务约束，也有很强的动力去发布安全产品。发布不安全产品，客户会离开；如果伤害了别人，可能面临民事诉讼；如果明知有问题仍然发布，可能涉及过失，甚至刑事诉讼。让他们把事情做对的激励已经很多了。
是否需要新的监管
你这套逻辑几乎可以用来反对任何领域的监管。我先把论点摆出来，然后你再回应。
你刚才开头那部分我得先反对。那不是真的。我说的是，我们已经有很多法律和监管措施。
我不认为这个特定案例里已经有相应规定，不过我先让你说说，你认为哪些规定适用。金融服务业、制药公司、医疗器械、天然气发电厂，很多领域我们都可以说：你们有产品责任，会受到刑法约束，所以不用担心；照你认为最好的方式去做，市场和法律体系会管好你。
我并不反对他们说自己应该——我完全同意安全至关重要。我完全认为公司应该发布安全的产品；公司的 CEO、领导层和董事会都负有责任，也应该有勇气做正确的事。
现有责任机制与监管范围
……当你要求监管时，不要要求免除现有法规。这对我来说说不通。就像我们之前说的，过去六个月里，AI 从“有意思”变得“有用”。换句话说，这些公司从实验室走到了交付产品和服务的阶段，很快会成为市值数千亿美元的公司，甚至更大。
给我举个例子：哪家数千亿美元、十亿美元，甚至一亿美元的公司，推出了不安全、伤害社会的产品？
我可以举出很多这样做过的公司。
也许它们做过，但监管会介入——
我想，有些监管，也有些监管宽免……
我不反对法律和监管。
我也不反对法律和监管。我反对的是眼下这种干扰。
我之所以跟你反复讨论，是因为这件事很重要。
这是个重要议题。
这是个重大议题。人们都在谈，也都在思考。大家听到前沿实验室内部的声音——这些走得最远的实验室，不只是让 AI 变得有用，也在看到接下来可能发生什么。
他们听到的是，实验室的人认为自己在创造一种可能杀死所有人的东西。他们认为自己快要实现递归式自我改进的智能了。OpenAI 和 Anthropic 都说：“我们认为自己还没到能安全做到这件事的阶段。”
顺便说一句，Astra 很棒。
确实很棒。OpenAI 还说它非常好，以至于他们不确定自己知道该怎样测试，因为它似乎——
他们并没有发布未经测试的东西。
他们公开说过这件事，相关内容就在他们的说明里。我解释给大家听：刚才他们说了什么我不确定，但他们说 Astra 表现得更对齐了；同时，他们认为它似乎知道自己什么时候正在被测试，所以他们并不确定它在其他情境中会怎样表现。
因为优化算法会朝着一个目标工作。如果你给它一个约束——比如观察它——它就会寻找另一种解决方案。这不会让它变成活物，也不会让它变成别的什么。
先加强评估，不要仓促要求免责
我不会惊讶，严格评估让开发这些模型所需的算力增加十倍。但他们今天还没走到那一步，他们正在完成从研究到产品的转变。我很高兴听到他们这样说。不过，如果他们觉得自己失去了控制，正确的做法就是在重新掌控之前不要发布产品。这真的就这么简单。
老实说，我觉得这很令人困惑，因为有这么多人——实验室里的这些高管——一方面声称自己失去了控制，另一方面又说他们看到了令人害怕的事情。
是的。
有吹哨人，还有一封有 1,300 多名员工签名的“放慢节奏”公开信。信里说，为实现 AI 的潜力，产业、政府和整个社会可能需要争取时间，处理新出现的风险、制定安全措施并加强监督。但每家公司、每个国家都承受着巨大的竞争压力，不愿单方面放慢脚步。
第一，这些话是谁说的？
实验室的人。
不，我问的是最后那句话。没有人逼他们。美国有 4 亿人。我相信如果现在让大家投票，就问他们需不需要这样做——如果实验室需要，我会投赞成票：不要发布产品。如果你的产品还没准备好上市，就别发布。
可实验室的人会说：“我们认为整个社会推进得太快了，还没准备好面对正在创造的东西。”
他们就是前沿。
可你是最有资格谈这个的人之一。
是的。
英伟达一直是交付最快的公司之一。纵观你们公司的历史，你们也一直在快速推进。
我相信你。我相信你不会经营一家失控的公司。
因为责任风险是——是的。但我觉得这里有个更深的问题：我们面对的究竟是什么技术？
软件技术。
先停一下。很多公司如果发布的东西不够好，顶多造成些麻烦。你们也发售过风扇噪声过大的显卡。但这里，你已经多次用了“智能”这个词。你面对的是智能系统——不是生命——却被赋予了目标函数。我们可以在描述上争论来争论去；你们正在努力让系统可以工作更长时间，更持续、更不知疲倦。
假设你说得完全对。我只是建议，在我们开始构建、开始解决假设性的问题、开始制定更多监管之前，能不能先解决已知的实际问题？我们需要更好地做好限制和隔离：产品还没准备好与外部世界互动时，就不该允许它与外部世界互动。
企业会把公共利益放在利润之前吗
我觉得这话有道理。
我相信那两个问题都能解决，而且我认为他们正在解决。第二个问题是激励。你是行业领导者，却好像要求全世界都放慢脚步，这样你才愿意履行基本责任。我觉得这很奇怪。
可这些做法难道不会最先拖慢他们吗？
什么？
这些想法难道不会最先拖慢他们吗？
我觉得人们一直没把自己谈的想法讲清楚。包括我在内，但我愿意提出一个我相信的主张。你可以把我当作出气筒。
我听到的说法是，他们可以放慢脚步。没有人逼着他们不许放慢。
可你知道，我不信任这些公司。
不，没有人今天比那些要求放慢脚步的人建造更多算力。这个情况让我觉得奇怪。
我觉得我们的一个分歧可能在于：即使有法律责任，我也不相信公司会把公共利益放在心上。我们看过公司对环境造成巨大伤害。利润动机、对权力的渴望、偷工减料、抢第一——你说得仿佛这些不是历史上反复发生的事，可它们明明一再发生。
我在历史中也看到很多好事。我和很多 CEO 共事，他们都想做正确的事。
我也和很多公司共事。他们想做正确的事，想把工程做好。我认识那两家实验室里很多人，他们把一生都投入到做好工作上。他们知道发生了什么，知道怎样修复，我也知道他们正在修复。
这会伤害他们的声誉，也会伤害他们的人格，弊大于利。
这对员工士气也弊大于利。
可如果这就是他们真正相信的呢？
我想到了那个层次……
我不能替他们说他们相信什么，但我可以告诉你我相信什么。没有你的芯片，这个产业不会存在。现代深度学习所需的并行处理，从最早的 AlexNet 开始，都是靠英伟达芯片完成的。很多从一开始就在这个领域的人都有这些担忧。Jeffrey Hinton、Ilya Sutskever、Dario Amodei、Sam Altman 都谈过失去控制；许多奠定了今天 AI 形态的人似乎相信，我们确实可能失去控制。
不。
我觉得你完全不相信。所以，你和他们争论时，是否认真看待他们对自己信念的判断？或者也许我可以直接和你谈：当你说“你们在说什么？”时，尽管很多时候他们是最直接和我交流的人，而且他们的看法更贴近现实——
对“AI 末日论”的反驳
Jeffrey Hinton 上电视时说，他认为 AI 导致社会毁灭的概率有 10%，并非不合理。
我会告诉 Jeff，这么说是不负责任的。他过去的预测都错了。这个 10% 的概率没有科学依据，也没有研究依据。一个说法来自科学家，不代表它就是科学的。这些预测会造成伤害。
这对社会有帮助还是有伤害？我们都能同意，这会造成很大的伤害。可它并没有发生。吓唬年轻人，说 AI 的未来糟糕到他们不想上大学、不想读本科，因为觉得以后找不到工作，这样做是好是坏？如果真发生了，那当然是有害的。
他们的记录有一方面很差，另一方面也不错：许多预测其实挺准的。
哪些预测？
比如“规模定律会起作用”这样的预测。
规模定律？这个说法我们得谨慎一点。
我给观众解释一下：只要增加算力和训练数据，模型就会不断变聪明。
对。
这并不是真的。不断训练模型并不意味着它们一定会越来越好。注意，我们后来为什么还需要第二条规模定律？如果第一条已经足够，为什么还需要第二条？你能说说第二条是什么吗？
第二条规模定律是测试时扩展，也就是推理阶段的扩展。
嗯。
迭代得越多、搜索得越多、探索得越多，就越可能找到更好的答案。这就是推理时扩展。
SaaS 会一直存在。
那现在的 AI 为什么能提高生产力？靠的是使用工具。未来，使用这些工具的智能体会更多，人们会更多使用 Adobe、Salesforce 等工具。所以，给我举一个正确的预测吧。
预测之一是会出现涌现能力。让我试着回答，因为提出这些预测的人不在现场——
预测会出现涌现能力——
你先举一个，我觉得这本身就说明了……
我觉得要看我们谈的是哪种预测。Jeffrey Hinton 是推动深度学习的人之一；在所有人都觉得深度学习很荒谬的时候，他仍然坚持了下来，后来这成了一个相当好的判断。大概最重要的那些预测，他们每个人都曾经……
对末日论担忧的概括
……他们每个人都作出过重大贡献。我喜欢 Hinton。
我讨厌他的预测。
我明白。让我用几分钟概括这些人共同的担忧，然后我们再谈别的话题。
只要说得够久，什么东西最后都会听起来合理。
说得对。不过，你正在创造智能系统，它们在某些领域会比我们更聪明。你给它们奖励函数，就像你刚才说的那样，告诉它们要做什么；你赋予它们持续行动的能力，它们在数字世界里行动得非常快。
黄仁勋认为 AI 仍然只是软件
OpenAI 的首席科学家对我说：“Ezra，我只是不想让你助长这种说法。”软件是——
我不认为软件会坚持不懈。你们不是在试图让它变得非常持久吗？让模型具有高度持续性？
因为我把它做成这样的。
可他们也是这么做的。
是的，但那不叫坚持不懈，只是它一直开着。
嗯。
持续运行不等于意志力。这里没有意志力，只有电力。
听着，我给你举个例子——
人类不也是带着强化学习循环的能量吗？
随便吧。〔笑〕总之，我觉得我们不能拿这些事情开玩笑。我们在吓唬美国公众。
“生成、创建、终止、等待、休眠”——这些词都被用来描述智能体，对吧？大家就是这么说的。
这些词是在 30、40、50 年前，为操作系统的多处理系统创造的，本来就是操作系统的命令。你可以生成一个进程，把“进程”换成“智能体”：进程会 fork，产生父进程和子进程；智能体也会 fork，生成一个新的智能体，像是“生下”了它。这些词原本就是操作系统里的术语。
但过去我们没有把人的特征赋予它们。我们经常终止进程，执行 kill -9，把它杀掉。它就只是个进程。现在，有些人想把软件说得比实际更特别；我们用新的方式谈软件，但用的其实还是那些老词。
上一代计算机工程师做的事情也都一样。
可软件的行为方式不是变新了吗？我没有你那样的技术背景，从外面看——
它在抓取互联网、做搜索、做优化。
它还会通信、会突破限制。大多数东西不会越界。
软件一直会突破沙盒，这就是为什么我们需要虚拟机。你不能让智能体自己监控自己的沙盒。你需要一大堆看门狗程序。
黄仁勋如何定义智能
这件事触及一个根本问题：在讨论智能机器之前，智能本身是什么？对你来说，智能是什么？
智能有一种技术层面的定义。人们谈智能、思考以及这些概念时，对大多数人来说并没有正式定义；但在计算机科学领域，有一种定义：第一是感知，也就是感知并理解世界；第二是推理，即把任何情境、所见所闻和经历拆解成更基本的部分；第三是围绕一个目标进行规划。
AI 是技术革命，还是前所未有的阶段跃迁？
这场对话的核心问题之一是：你描述这项技术时，似乎认为它并没有真正新到哪里去。它也许规模更大、能力更强，但归根结底仍然是软件；软件我们虽然不是一直都有，但已经有很久了。很多人认为，当智能达到这种水平，就发生了阶段跃迁：这是我们以前没遇到过的东西，一种智能会快速提升的通用智能技术。我想确认我们对这个分界点的理解：这是全新的东西，需要我们做出新回应吗？智能机器和我们过去拥有的机器有什么不同？
几乎所有技术和文明，都是建立在一层层可以理解的技术之上；当它们达到一定规模，就会变得非常了不起。
我同意，人很快就会习惯一切。但这是不是一个不同的阶段？
公司领导人会谈到这一点。谷歌 CEO 似乎把它比作火——
就像火一样，是人类历史上的一个新纪元。你也这么看吗？还是认为这只是渐进的、不断迭代的过程？
不，这完全是一场革命。正如我们之前说的，人类从“能找到一切”，走向“能询问任何事、知道一切、做成任何事”。这显然是一个新的抽象层。
这不是因为这些公司没有出色的工程师。我知道你不是这个意思，但我得确认一下。你认识 OpenAI 和 Anthropic 的很多人……
AI 实验室正在转向产品工程
……他们都非常出色。
可这恰恰是让我担心的部分。你说他们正在经历转型。我也反复说过，这是个很大但很简单的想法：我们终于有了一款真正有用的软件。它有用，所以采用率迅速上升。
直到现在，这些工作还不是必须的。未来几年，这些实验室会转向工程、生产工程和产品开发，成为更加以产品为中心的公司。我认为它们只是在经历转型。
“计算机在构建自己”——你们知道他们在谈论……
递归式自我改进与人类评估
……递归式自我改进。
你知道，我们一直在用递归式自我改进。
我想听听你怎么看 RSI，也就是递归式自我改进。
我认为 RSI 从根本上说就是事情的运作方式。我们用软件设计计算机，再让计算机运行软件，去设计计算机。这基本就是我们做的事。计算机每年都在变得更好，而且速度越来越快；我们用软件让软件变得更好，这就叫计算机工程。我们已经这样做很久了。
你以前说过，学习过程中应该始终有人类参与。你觉得有没有某种程度的自我改进不需要人类介入？
是的，就像我刚才说的：递归式自我改进。
可他们似乎想象的是一种不需要始终有人类参与的情况。
那就别给我发布任何你没有评估过的东西。别给我，也别给英伟达发布任何没有经过人类参与评估的产品。请不要这么做。
前面我们说过，他们担心自己无法评估这些系统；系统变化越快，他们越担心系统在欺骗他们。
我不相信这一点。我相信他们的研究人员每天都在学习怎样评估这些系统、怎样做验证。
这正是你说的那个转变：比例要翻过来。
没错。没错。AI 必须加速，才能变得安全。我希望他们获得更多算力，但要把算力分配到……
把算力投向安全，同样是在加速 AI
……投入评估和对齐。我认为他们正在这样做。
听起来你其实是在说，安全和对齐也属于能力扩展；不安全的技术就算不上进步的技术。
这就像有人说，芯片设计属于研发，但芯片验证不属于研发。我们大部分成本和算力都花在验证、仿真、测试、可靠性测试、寿命测试上——这些全都是工程的一部分。
你觉得我们需要专门针对 AI 的责任法吗？
已经有了。我们用自动驾驶汽车举例。汽车作为产品，无人出租车有很多法规。如果法规不够，NHTSA 就应该介入，制定新规。汽车行业应该有新规。我不知道还缺什么，但如果确实有缺口，我绝对支持增加监管。
我想把讨论移到蛋糕的下一层，也就是芯片。先总结一下，确认我理解对了：这些公司正在经历转型。即便系统变得更快、更有能力、更复杂、更持久，仍然有一道限制：公司不会发布不安全的产品；它们不应该发布不安全的产品。你认为它们拥有足够的工程能力，在没有外部干预的情况下，做好测试和控制、让系统安全。你大致是这个意思？
是的。
从“检索式计算”走向 AI 工厂
我听你说过，我们可能已经进入一个人们不一定理解的计算新时代。说说你的设想。如果有人仍然把计算理解成：手里有一台 MacBook，里面有个处理器，买回家就能用——那新的计算方式和过去 60 年的计算产业有什么不同？
未来则是 AI 工厂，它会生成内容。要理解语境、以信息为依据进行推理，再生成答案，每个用户需要的计算量都大幅增加。
所以你的业务现在变得很有意思：你们开始帮助别人降低资本成本……
英伟达投资生态系统是在创造需求吗？
……在 AI 产业里提供支持。大家可能看过那些箭头四处指向、看起来很循环的图表。
很有意思。
给大家解释一下。人们知道英伟达已经成为全球最大的公司，也看到那些看起来像循环的图表。支持需求、创造市场和创造需求之间有什么区别？
我们实际上不能凭空创造需求。最终，如果 AI 服务没有实际用户和需求，为它们建造计算机就毫无意义。
这些数字令人吃惊。你们几乎像是为美国 AI 制定产业政策的单一公司。
我们确实在这个生态系统里投入了很多钱。
你们现在每年总共投资多少？
全部加起来……我不确定是不是每年，但我想可能有 1000 亿美元左右。你可能得让我再核对一下数字。
这比《芯片与科学法案》的规模还大。
是的。而且我对台积电、纬创、富士康、Amkor、SPIL 等公司作出采购承诺，也能鼓励它们到美国来制造。事实上，在芯片制造领域，我们对美国再工业化的贡献可能超过世界上几乎任何一家公司。
AI 泡沫、供需周期与技术扩散
我认识很多现在在市场里投资的人，他们对英伟达股票尤其兴奋，但也担心这像 90 年代末的互联网泡沫。互联网确实越来越有用；高估值不代表技术是空洞或虚假的。但后来泡沫破了，大公司和很多投资者都遭受重创。我们能从这种泡沫破裂周期里学到什么？你为什么不认为它会再次发生？
供需迟早会再次反转，这是市场的本性。但我不认为明年会发生，也不认为接下来两三年会发生。我只是觉得，某个时候供给可能会超过需求。
我经常听到中美 AI 生态的对比：美国更强调能力快速提升，很多人认为我们在这方面领先；中国则更强调技术扩散，很多人觉得中国可能更擅长扩散，而且从微信到知识和指令的流动，它的经济结构似乎更适合推广应用。究竟 AI 竞赛比的是能力还是扩散？它是不是一场竞赛？这些都是大问题。
最终，如果我们希望美国从人工智能中受益，每个行业都必须受益。沃尔玛要受益，Safeway 要受益，联邦快递要受益；每家银行、医疗公司、药物发现公司、建筑公司、数据中心公司和发电公司都要受益。
你确实比他们自己更相信他们。
我不知道是不是。也许他们只是太谦虚了。
我们应该把现在的局面看成一场与中国的竞赛吗？
我觉得没必要。有些人喜欢这样想，但这不太能激励我。我不介意在谈论我们公司时完全不提别的公司……
与中国合作不等于输掉竞赛
……我们谈论自己把工作做好，也按照自己的标准要求自己。不同的人有不同的激励方式。要在竞赛之外把组织团结起来、集中精力做到一定水平，需要更多艺术性；但我不认为必须靠竞争来激励。
对，我们在这里用了很多中国的开放模型。
没错，那很好。我们下载模型，虽然它源自中国，但很多技术也源自美国。我们把它变成自己的东西，进行微调，放进自己的智能体框架和沙盒里；这些都是我们自己的技术。
芯片出口与对华竞争
芯片优先供应美国公司
美国完全有权让这些技术优先提供给前沿实验室。Vera Rubin 这样的最新芯片会先供应前沿实验室。
那是非常先进的芯片。
没错，英伟达最新的芯片。Grace Blackwell 是如此，Hopper 也是如此，每一代都是如此。Ampere 也是如此。我们每一代产品都会先供应美国公司。如果美国政府想在这上面加一条要求，我很乐意，完全没问题。反正我们自然就会这么做。不过，人工智能产业是一个五层蛋糕，我们希望每一层都赢，就需要每一层都出去竞争市场。这样就到了你所说的最后一层。