About this episode
The episode discusses the competition between Google's TPU and NVIDIA's GPU, featuring insights from a former TPU engineer.
在AI算力争霸时代，英伟达凭借GPU市值一路狂飙。但如今，它的蛋糕正在被一点点分食——2024年，苹果论文披露Apple Intelligence全部由TPU训练；2025年，Anthropic签下数十亿美元订单，购买TPU训练Claude；近期，Meta与谷歌签署数十亿美元协议，租用TPU跑Llama。 TPU一直是谷歌低调的“自家武器”，在过去十年里驱动着几乎全部核心产品。直到TPU训练的Gemini 3打了一场漂亮的翻身仗，人们才开始重新审视：这套从搜索推荐系统中长出来的定制芯片，究竟藏着多少秘密？ 本期播客，我们邀请到 前 谷歌TPU工程师Henry。他在2018年至2024年间深度参与了三代TPU的研发，也见证了大模型时代TPU的关键转型。他将从硬件架构、软件生态、生产供应链三个维度，一层层揭开TPU的神秘面纱。 我们将深入探讨：TPU与GPU的架构有何根本不同？TPU的产能瓶颈卡在哪里？当谷歌开始向Anthropic、Meta开放TPU，它在软件生态上要迈过哪些坎？如果未来模型的底层范式发生改变，TPU还能押准方向吗？而最关键的问题是：TPU真的有机会撼动英伟达的霸主地位吗？ 【主播】 泓君，硅谷101创始人，播客主理人 【嘉宾】 Henry Zhu，前Google TPU工程师，参与V6/V7/V8 TPU研发 【你将听到】 TPU挑战GPU 03:06 架构对决：GPU像多个大厨，TPU像流水线接力 06:41 TPU vs GPU：谁在模型训练上更强？ 10:20 TPU产能之困：HBM、封装与良率 XLA软件黑盒 14:06 Anthropic为何率先下单百万部署？ 16:01 黑盒优化如何“榨干”硬件性能 17:47 XLA与CUDA，两种生态之争 19:53 苹果为什么能成为TPU大客户？ “大模型客户” 20:45 Gemini成功背后，TPU做了什么？ 22:34 TPU是如何做MoE优化的？ 23:45 设计难点：如何押中两三年后的算法？ 26:05 TPU的转身：V6开始押注大模型预训练 28:53 Transformer先发优势带来的旗鼓相当能持续多久？ 32:04 Meta的TPU托管服务：生态逐渐走向兼容 供应链命门 36:08 拓扑通信架构如何为TPU打赢数据中心成本战 38:27 博通（Broadcom）是谁？为什么它如此关键 42:04 挑战GPU的机会：用户规模越大推理越快 45:36 V7之后：Gemini实现100%TPU训练 48:15 一句话总结TPU优劣势 TPU十年进化史 49:49 V1推理芯片试水，V2训练芯片旗舰，V4优化推荐算法 52:16 V5/V6：进入大模型时代，推出推理专用版本 56:05 团队演变：软件组话语权越来越重 新星Groq 57:14…
People in this episode
Host: 泓君Jane
Guest: Henry Zhu
Topics covered
- TPU vs GPU
- AI computing power
- hardware architecture
- software ecosystem
- production supply chain
- NVIDIA dominance
Keywords
- TPU
- GPU
- AI computing
- hardware architecture
- software ecosystem
- NVIDIA
- Anthropic
- Meta
- Apple
Mentioned in this episode
Organizations: 谷歌, 英伟达, 苹果, Anthropic, Meta, Broadcom
Products: TPU, GPU, Gemini 3, Claude, Llama
More episodes of 硅谷101|中国版
- E239｜SpaceX要让太空算力从科幻走向现实，但它划算吗？ · June 12, 2026 · 1h 30m
- E238｜聊聊Harness时代AI-First的组织架构：从信任人到信任AI · May 25, 2026 · 1h 5m
- E237｜央视和FIFA谈判纷争背后，体育赛事转播权的博弈与生意 · May 21, 2026 · 1h 6m
- E236｜99%的作业都是AI写的：当代名校生眼里，大学还剩下什么？ · May 15, 2026 · 1h 22m
- E235｜20年内CAR-T治愈癌症？与刘诚博士聊聊癌症治疗的底层哲学 · May 9, 2026 · 1h 10m
- E234｜未来实拍电影还存在吗？AI给影视人的恐惧与自由 · April 22, 2026 · 40 min
Explore listener stats, chart rankings, contacts and more on the 硅谷101|中国版 podcast page.