R2N 首页 / AI 基础设施
AI 基础设施播出 2026.08.251:23:3621 章约 1 分钟读完整理于 2026.08.26

前 NVIDIA 工程师:为什么 AI 即将便宜 1000 倍

Neil Movva 把 Sail Research 描述成一家“token 工厂”:目标不是追逐最低延迟,而是把长时运行的后台 Agent 所需的智能做得极其便宜。他从软件内核、GPU 与内存、芯片供应、数据中心可靠性一路谈到电力,主张把通常被视作缺陷的慢芯片、闲置算力、低可用数据中心和间歇性能源变成成本优势。对他而言,未来的关键不是让每次回答更快,而是让机器在后台持续思考数小时、数天乃至数周,并最终把 token 成本再降低三到六个数量级,让“充裕的智能”成为一种基础商品。

010:010 字

片头:让 token 尽可能便宜

020:380 字

打造“Token 工厂”

034:220 字

后台 Agent 的未来

048:220 字

便宜智能能解锁什么:主动式 Agent 与可验证问题

0513:090 字

在 NVIDIA 的经历:Tensor Core 与“光速”文化

0617:100 字

吞吐量与延迟的取舍:为什么不依赖 NVLink

0723:270 字

SRAM、DRAM 与 Cerebras 的整片晶圆路线

0827:280 字

KV cache 与异构芯片:极快路线的边界

0931:280 字

Transformer:能扩展的优势与内存瓶颈

1036:140 字

数据的下一阶段:RL 环境,以及 kernel 优化

1140:140 字

Kernel 融合、白板编程与 rack 级优化

1244:320 字

芯片稀缺与算力套利

1348:320 字

算力会是泡沫吗:推理支出与互联网泡沫之别

1452:440 字

重塑 AI 数据中心

1559:020 字

电力与“拾荒者策略”

161:03:020 字

最浪费的环节:KV cache 与全球算力调度

171:07:040 字

从工艺差异到团队文化:看极限与好奇心

181:10:100 字

开源与闭源 AI

191:14:110 字

每天 1 万亿 token:对芯片与 TSMC 的逆主流判断

201:18:110 字

给硬件创业者的建议:先看清供应链瓶颈

211:22:110 字

收尾、导师与赞助信息