AI 基础设施播出 2026.08.251:23:3621 章约 1 分钟读完整理于 2026.08.26
前 NVIDIA 工程师:为什么 AI 即将便宜 1000 倍
Neil Movva 把 Sail Research 描述成一家“token 工厂”:目标不是追逐最低延迟,而是把长时运行的后台 Agent 所需的智能做得极其便宜。他从软件内核、GPU 与内存、芯片供应、数据中心可靠性一路谈到电力,主张把通常被视作缺陷的慢芯片、闲置算力、低可用数据中心和间歇性能源变成成本优势。对他而言,未来的关键不是让每次回答更快,而是让机器在后台持续思考数小时、数天乃至数周,并最终把 token 成本再降低三到六个数量级,让“充裕的智能”成为一种基础商品。
R2N
0:0015:0030:0045:001:00:001:15:001:23:36
- 0:01片头:让 token 尽可能便宜
- 0:38打造“Token 工厂”
- 4:22后台 Agent 的未来
- 8:22便宜智能能解锁什么:主动式 Agent 与可验证问题
- 13:09在 NVIDIA 的经历:Tensor Core 与“光速”文化
- 17:10吞吐量与延迟的取舍:为什么不依赖 NVLink
- 23:27SRAM、DRAM 与 Cerebras 的整片晶圆路线
- 27:28KV cache 与异构芯片:极快路线的边界
- 31:28Transformer:能扩展的优势与内存瓶颈
- 36:14数据的下一阶段:RL 环境,以及 kernel 优化
- 40:14Kernel 融合、白板编程与 rack 级优化
- 44:32芯片稀缺与算力套利
- 48:32算力会是泡沫吗:推理支出与互联网泡沫之别
- 52:44重塑 AI 数据中心
- 59:02电力与“拾荒者策略”
- 1:03:02最浪费的环节:KV cache 与全球算力调度
- 1:07:04从工艺差异到团队文化:看极限与好奇心
- 1:10:10开源与闭源 AI
- 1:14:11每天 1 万亿 token:对芯片与 TSMC 的逆主流判断
- 1:18:11给硬件创业者的建议:先看清供应链瓶颈
- 1:22:11收尾、导师与赞助信息