晚点聊 LateTalk

2026 年 Q3，具身智能领域最有冲击力的变化，来自一个通用模型：9 月初 OpenAI 发布 GPT-6 Astra 后，具身从业者们发现，Astra 不只理解任务、拆解任务，还能输出机器人末端执行器的位姿，完成了本该属于 VLA 等物理 AI 模型的部分工作，而且还做得很不错。 在部分测试中，直接把 Astra 当做策略模型（VLA、WAM 等都是机器人上的策略模型类型）的成功率已超过了一些专门为机器人任务和物理世界操作训练的具身模型。 这动摇了数字世界 AI 和物理 AI 的边界，也引发了一个灵魂拷问： GPT、Fable 之类的通用模型是否会吃掉 Robotics？ 同时已经发生的事实是：OpenAI、Anthropic、DeepSeek、Kimi 等多数通用前沿模型公司都正酝酿进入 robotics。 除了 Astra 冲击外，本期具身季报还关注以下 4 个行业进展和事件： AMD 拟以 82 亿美元收购 World Labs 宇树 IPO 及连锁反应 有可能大幅压缩部署成本的 “上下文学习” 美国 FCC 实际禁止了新型号的中国机器人进口 对一些人来说，Astra 的变化已经撼动了独立的具身智能公司的发展叙事和估值逻辑。至少，现在到了重新思考物理 AI 与通用 AI 边界的时刻。 本期节目已发布图文版，# 晚点具身季报：Astra 冲击后，通用模型会吃掉 Robotics 吗？ 本期嘉宾： 陈哲，Alphaist Partners 创始合伙人 本期主播： 程曼祺，晚点科技报道负责人 本期剪辑：Nick 时间线跳转： -Astra 冲击：通用模型越过虚实边界 02:53 Q3 Top 5 进展或事件：Astra、World Labs 被收购、宇树 IPO 及连锁反应、上下文学习、FCC 禁令 04:51 GPT-6 Astra 从规划层走向机器人策略 图注：在相同机械臂和测试条件下，RoboCurve 让 GPT-6 Astra、Claude Fable 5.1 和 Fable 5 同样输出到位姿，比较了它们的任务完成率与调用成本。 在“积木放进碗里”任务中，Astra 20 次成功 19 次，完成率为 Fable 5.1 的 2.4 倍，单次成本约为其 43%；在更精细的拼图插入任务中，Astra 与 Fable 5.1 的完成率同为 10%，Astra 成本更低。 12:56 IROS 晚宴上的 “降临派” vs “拯救派” 17:42 Astra 的三种用法：充当策略模型、监督纠偏策略模型、充当具身研究员（Physical RSI） 26:54 Astra 的能力从何而来？它们使用了何种特殊数据？ 37:37 中国通用模型公司全面进入 Robotics 39:28 具身创业公司的自留地：接口、闭环、硬件与垂直场景 -AMD 拟以 82 亿美元收购 World Labs：Neo Lab 的一次定价 45:17 World Labs 被收购：明星世界模型公司的一种结局 46:53 收购 SceniX，发布 Atlas，收购前的具身相关进展 54:04 “没见过神迹的人是不相信的”：Frontier Lab 与机器人从业者的认知断层 -宇树上市与具身智能的金钱游戏 56:24 宇树 IPO：从 4400 亿到 1700 亿，估值锚如何变化？ 58:04 Astra 之后，宇树硬件本体的价值反而增强 01:01:51 具身 IPO 集体暂缓，和市场期待错位 -上下文学习，一个加速 “落地” 的好消息 01:11:21 上下文学习（ICL，in-context-learning）：数秒到数分钟的视频示范，免去数小时乃至数天的后训练 01:17:49 GEN-1.5 与 S1 的 ICL 实现有何不同 01:19:43 其他具身进展：DYNA 2.1、Gemini Robotics 2 01:23:39 Google 与 Optimus，当经验成为包袱 -FCC：应对风险的方式之一是产能出海 01:29:24 FCC（美国联邦通信委员会）新政策限制哪些机器人？ 01:33:26 短期美国仍可买进口中国旧型号机器人，长期的解法可能是产能出海 01:36:50 Q4 展望：Physical RSI、通用模型公司入场与组织重塑 01:42:11 连点成线：延伸推荐 相关链接： 往期具身季报： 170 期：与陈哲的「具身季报 26Q2」：世界模型大风不停，和不想被贴标签的人 「具身季报 26Q2」图文版 157 期：与陈哲的「具身季报 26Q1」：宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手 「具身季报 26Q1」图文版 往期 AI 季报： 183 期：与 Henry 的「AI 季报 26Q3」：Muse 引爆个人助理、Astra 进入机器人、OpenAI 收入猛增 「AI 季报 26Q3」图文版 171 期：与 Henry 的「AI 季报 26Q2」：从 coding 到 RSI，强者愈强的未来？ 「AI 季报 26Q2」图文版 156 期：与 Henry 的「AI 季报 26Q1」：OpenClaw、OpenAI vs Anthropic 的三重对阵、自进化 「AI 季报 26Q1」图文版 其它相关往期节目： 180 期：具身智能的金钱游戏：进展难测、收入催熟与 IPO 竞速 本期提及的研究和文章： Anthropic 7 月上旬发布的文章：Claude Plays Robotics 在 RoboDojo 任务集上对比了 Astra 和 GPT-5.5、π0.5 等模型的表现：An Unexpected Robot Policy: Early Evaluations of GPT-6 Astra on RoboDojo and Beyond RoboCurve 的 GPT-6 Astra 机器人操作测试 RoboCurve 的 GPT-6 Astra 与 MolmoAct 2 双臂机器人操作实机对比测试（StationeryBench） 附录：本期节目中出现的一些技术概念和机构 IROS：智能机器人与系统国际会议，是机器人研究领域的重要学术会议。 RoboDojo：面向机器人操作策略的开放评测环境，包含仿真与真机任务。本期提到的研究用它比较通用大模型与专用机器人策略的表现。 Physical RSI：把递归自我改进延伸到物理世界，让模型参与搭建仿真、生成资产、训练和修正机器人策略，再将结果部署回真实硬件。 MuJoCo：由 Google DeepMind 维护的开源通用物理引擎，常用于机器人、强化学习和模型控制中的关节与接触动力学仿真。 Isaac Gym：英伟达推出的 GPU 加速机器人强化学习仿真环境，可并行运行大量环境以加快策略训练；后继框架为 Isaac Lab。 SceniX：机器人仿真系统公司，2026 年 7 月被李飞飞创办的 World Labs 收购。由李昀烛、郑昌熙和胡晓辰共同创立，李昀烛曾在斯坦福做博士后期间与李飞飞合作。 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「工具产品是解题，娱乐产品是出题。」 从今年初到现在，整个 AI 领域的最大重心在 coding、生产力和工作。梁琛奇想回答另一类问题：如何用 AI 让人开心？获得一种真正新颖、长期、高频，又不容易厌倦的娱乐体验？ 在去年夏天创立「动念引线」之前，96 年出生的梁琛奇只待过一家公司：字节跳动。7 年里，他亲历了抖音在 2018 年的崛起，很快在 2021 年开始从零 lead 一个实时社交产品。再然后是 2023 年，字节成立 AI 产品部门 Flow，梁琛奇带团队做出了猫箱。 不管是在字节还是创业，梁琛奇的热情一直在于娱乐和内容。而现在，还没有人拿出 AI 娱乐方向的爆款产品、把无可争议的那个新体验推到人们面前。 梁琛奇和动念引线的押注：是一种泛创作/表达，并混合轻游戏的体验。而这能否成立，取决于我们怎么想象和推演未来的自己：一种想法是，大部分人即使有闲暇，也不会投入创作，我们仍会被动地 kill time；而梁琛奇相信，当人不再需要为生计而工作，泛创作会变成一种普及、高频的娱乐活动。 你的答案呢？这是内容和娱乐创业有意思的一部分。它最大的 bet，最后指向我们怎么理解自己和同类。 图注：「松果时刻」的一位用户在给病人打点滴时发现，输液管被折成了一只蝴蝶。她用这个瞬间制作了一个小故事。 本期节目已发布图文版，# 对话动念引线梁琛奇：非典型字节创业者的 “娱乐至上” 本期嘉宾： 梁琛奇，动念引线创始人 本期主播： 程曼祺，《晚点 LatePost》科技报道负责人 时间线跳转： -为什么是娱乐？为什么是现在？ 01:57 每一轮技术变革，娱乐就是会比工具慢，而“我只想做娱乐” 14:20 主动选择抖音，加入在 2018 年爆火之前 18:38 在抖音做社交，体验 Alex 的“细节变态” 29:57 入职两年做产品一号位，最大的教训是不可逆势而为 36:05 “动念引线”和 DayFold：火花来自人类，AI 助燃 -从抖音到猫箱：产品、内容与人的创造 41:26 从 ChatGPT 到猫箱：互动内容的新格式 47:23 AI 给娱乐的机会：供给扩大、无限分支的体验与 Scale“人” 01:02:48 文字互动产品，多数的核心是角色，而猫箱的核心是故事 01:09:45 移动互联网产品是搭房子，AI 产品是养女儿 01:12:18 从猫箱到动念引线：都在自己训模型 -离开字节：0 到 1 只能自己下注 01:18:32 新体验大概率来自新公司 01:25:42 字节的方法论：找到那辆合适的车，踩油门 01:33:43 字节背景创业者被高估了吗？那些带不走的能力 -动念引线：验证与推演 01:38:44 把“想象力的摄像头”丢进人群 01:50:19 优化一：把消费也变得烧 token，这才有新平台的机会 01:55:07 把公司做成“产品 UGC”组织 02:04:38 优化二&三：收浓人群&提高频次 02:13:45 ChatGPT 最了解很多人，前沿模型厂商会吃掉娱乐应用吗？ 02:31:42 版本答案何时出现，以及它不是什么？ -版本答案之前：纠偏、壁垒与娱乐的价值 02:44:40 低估了 Coding 的进化速度，高估了 Sora 带来的行业加速 02:55:59 从模型切入，大概率做不出新的娱乐体验 03:07:22 “你还是得解决，大量不参与科技爆炸的人的价值感” 03:13:27 少数人向前，多数人向四面八方 03:18:00 本期「连点成线」 剪辑：甜食 相关链接： 《晚点 LatePost》：对话动念引线梁琛奇——非典型字节创业者的“娱乐至上” 150 期：年末 AI 回顾：从模型到应用、从技术到商战，拽住洪流中的意义之线｜Solo 136 期：Sora 新世界 & Lovart 4 个月复盘｜与陈冕聊怎么做垂类 Agent｜Agent #5 81 期：游戏怎么变成了生活？游戏社区发展史 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「一段鲜少被人提及的故事。」 今天的嘉宾是目前任职于高通创投（Qualcomm Ventrues）的投资人周楠。她是 5 月中旬 IPO 的 Cerebras Systems 的早期投资人之一。这是一家提供新架构 AI 算力的芯片与系统公司，被外界视作英伟达的补充，甚至是挑战者。 9 年前完成这笔投资时，周楠刚从投行加入百度的硅谷人工智能实验室。那时吴恩达是百度人工智能业务负责人，Anthropic 的创始人 Dario 也曾在百度美研工作，期间作为一作发表了 DeepSpeech2: End-to-End Speech Recognition in English and Mandarin 一文。 今天这期节目，我们从 Cerebras 的 IPO 切入，聊了 AI 算力的趋势，也通过回顾这段投资过程，回到了 10 年前，scaling law 在硅谷萌芽的阶段和当时百度美研的状态。 那是一段现在的地缘环境下，鲜少被人提及的故事，但它值得在 AI 历史中有一席之地。 本期节目的图文版也已经发布:从 Cerebras IPO 聊起：AI 算力变化、Scaling law 的萌芽和百度美研往事 本期嘉宾：周楠（Nan Zhou），Qualcomm Ventures 投资人 本期主播：程曼祺 《晚点 LatePost》科技报道负责人 时间线跳转： -Cerebras IPO，英伟达之外的 AI 算力 03:26 Cerebras 离“英伟达挑战者”还有多远？ 11:16 从 Sam Altman 最早投 Cerebras 到如今与 OpenAI 的 200 亿美元订单 18:27 Cerebras 的上限与下限，WSE 架构优劣 -9 年前的那笔非共识投资 23:28 为什么百度当时要投芯片？ 29:02 Dario Amodei 的早期代表作 DeepSpeech 2，Scaling laws 的萌芽 32:17 Cerebras, Graphcore, Wave Computing，三选一 37:06 与研究员一起做尽调，逐一排查风险点 46:18 IC 投决过程，未流片前的决策 53:35 Cerebras 的至暗两年，如何挺过流片不顺 -“遗落”的百度美研 01:00:02 “黄埔军校”和一份生不逢时的 deal list 01:04:04 OpenAI 和 Anthropic 早期都未得典型 VC 支持 01:09:04 他们后来为什么离开百度？ 01:12:23 起了大早，赶了晚集，一部分是“宿命” -新的非共识 01:18:30 推理优化和 Infra 的更多创新 01:26:11 真正的早期投资变难，一股趋势是募大钱投显然的 winner 01:31:11 物理 AI，下一阶段的大分歧和机会 **01:35:49 连点成线* 剪辑：甜食 相关链接： 《晚点聊》159 期：马斯克Terafab太空算力、英伟达重拾CPU|与Fusion Fund张璐聊AI算力新趋势 《晚点聊》156 期：【AI季报_26Q1】：OpenClaw、OpenAI vs Anthropic的三重对阵、自进化 附录：一些术语解释 WSE（Wafer Scale Engine，晶圆级引擎）：由 Cerebras 公司推出，是将整片晶圆封装为单一芯片的超大算力处理器。 ASIC：专用集成电路，专为特定功能定制设计的芯片。 模拟验证：通过仿真测试电路功能、性能，排查设计缺陷的芯片研发环节。 流片：把芯片设计版图交由晶圆厂，正式量产制造芯片的过程。（本期聊到，百度当时投资 Cerebras 时，Cerebras 尚未完成第一次流片，处于模拟验证的研发阶段。百度对 Cerebras 的性能尽调也是基于模拟推测的。） Adept AI：曾推出 Devin 的美国创业公司，核心成员 Erich Elsen 曾在百度工作。 Egien AI：本期后面聊到的，被 Nebius 收购的一家 Infra 公司。 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「AI 来了，学习这件事会怎么变」 本期嘉宾是洋葱学园联合创始人和 CEO 杨临风，而他一直不怎么追风。 在哈佛读本科时，杨临风修的是计算机，而毕业后，他和朱若辰、李诺在 2013 年创立洋葱学园，做了教育科技，想让更多学生驾驭自主学习。 几年后在线教育融资汹涌，最火的形式是双师直播课、名师录播课等，而洋葱学园都没有做，他们不想做培训，继续用 5~8 分钟的动画内容吸引孩子课外自学。 今天我们聊 AI，临风也不怎么讲流行技术词汇，更多聊学习本身。 与其说洋葱是一家教育公司，它更像一家学习公司。他们一直在研究孩子可以如何自发、自主地学习。这在今天变得更重要了。也可以说，AI 正加速让学习回归本来面目。 本期节目由洋葱学园支持播出。 本期嘉宾： 杨临风，洋葱学园联合创始人 & CEO 本期主播： 程曼祺，晚点 LatePost 科技报道负责人 时间线跳转： -从公益到创业，追求实现“自主学习” 02:32 哈佛支教、阳光书屋 08:58 自主学习是意愿、能力和工具的协同 16:04 为什么数学？为什么 5~8 分钟动画 28:23 AI 能提升制作教育内容的效率，但提升有限 -在线教育最疯狂的那几年 39:13 不做双师大班课，不追风口 48:30 就算没有双减，双师大班也很难满足教育新需求 -AI 热潮之后 52:51 洋葱、猿辅导、与爱为舞……AI 教育的不同思路 01:05:45 AI 动摇应试教育，但学知识的过程依然必要，学校依然必要 01:11:00 K12 最重要目标：学会自立 01:15:52 各家大模型在教育场景的表现 -回归自主学习 01:18:14 曾经受到的最大质疑：自主学习只适合少数人？ 01:28:38 过去相信先赚钱再实现目标，后来发现不必如此 01:33:55 创业不是开不开心的问题 连点成线 相关链接： 108 期：与马毅聊智能史:“DNA是最早的大模型”，智能的本质是减熵 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

本期《晚点聊》，我与刚从港科大博士毕业的一位年轻研究者高深远，他从去年开始在英伟达实习，接下来马上会正式加入英伟达的具身智能实验室 GEAR。 我们聊了深远 2024 年以来一直专注的方向：世界模型。 前 1 个多小时，我们展开了整个世界模型的大图景：它的分类？它是为了解决什么问题？它的现状、瓶颈和未来方向，以及各主要公司的思路。 很多人认为世界模型的说法太模糊、涵盖太多，这是一些早期技术的常见现象，这期正好厘清，目前有哪些做世界模型的方法和思路。 后一部分，我们聊了GearLab 在世界模型上的一些实践。尤其是去年底至今，他们陆续发布的世界模型 DreamDojo，（深远是这个工作的联合一作）以及被认为有可能会取代 VLA 的世界动作模型 DreamZero 的研发历程和具体创新点。也延展聊了世界模型可能的竞争局面。 深远描绘了他认为非常有前景的一种自进化循环——它由世界模型、策略模型（如 VLA、WAM 等）和连接二者的 Agent 构成。在英伟达，世界模型和策略模型有 DreamDojo-DreamZero 的组合，在 DeepMind 有 Genie-SIMA的组合。以下的图示更容易帮助理解播客里的讨论。 图注：图中大脑代表 agent，机器人代表 policy，地球代表世界模型，中间是数据集。世界模型的输出（对世界下一刻的预测）是 agent 的输入，供 agent 给预测打分，打分可用以优化 policy；同时世界模型的输出也是 policy 的输入，而 policy 的输出（动作）是世界模型的输入。同时，agent 也给 policy 做任务规划。 世界模型到 agent 和 policy 是用视频/图像通信；policy 到世界模型是用 action 通信；agent 到 policy 是用文本通信；agent 优化 policy 可以是一个打分数值，也可以是由文本媒介转过来的一种分数信号。 本期节目的图文版也已经发布:与英伟达 GEAR 高深远聊世界模型、自进化循环和 DreamDojo 本期嘉宾：高深远，英伟达 GEAR 研究员 本期主播：程曼祺，《晚点 LatePost》科技报道负责人 剪辑：Nick、甜食 时间线跳转： - 世界模型大图景 02:19 世界模型是什么？ 施加动作，预测世界下一刻的状态 05:35 多 Agent（车/机器人）互联的世界模型 09:57 按世界状态的表征方式分类： 4 种世界模型 15:33 最看好 video 世界模型， 因为数据够丰富 19:36 世界模型为何热起来？ 数据增多 + 策略模型变强了 - 世界模型、策略模型和 Agent 的自进化循环 21:42 策略是什么？和世界模型的关系 23:39 WAM（DreamZero）相比 VLM 的变化 28:26 世界模型的一大价值是服务策略： 测评、生成数据、突破物理限制的虚拟强化学习 33:42 循环三要素： 世界模型、策略、Agent，它们如何彼此连接、优化 - 世界模型的未来 43:07 当前最大瓶颈，突破泛化： 物理的泛化、动作的泛化 51:49 世界模型难以横评， 难以直观看到不同模型的差别 55:28 各团队的世界模型进展： DeepMind、Nvidia、OpenAI、General Intuition - 从自动驾驶到具身，从 AI Lab 到 GEAR 01:02:44 “在学界继续做自动驾驶世界模型没意思了” 01:06:30 加入 GEAR，DreamDojo 和 DreamZero 的发起 01:14:12 在英伟达构建最大规模 Human Center 数据 01:21:05 跨本体的 Latent action，以后还需要吗？ 01:28:41 DreamDojo 的评测： 自建 6 个 benchmark 的逻辑 01:34:50 自己不掌握视频基模，能做出有竞争力的世界模型吗？ - 01:45:44 连点成线 相关链接： 157 期：【具身季报 26Q1】宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手 150 期：【年末AI回顾】从模型到应用、从技术到商战，拽住洪流中的意义之线|Solo 148 期:它石智航陈亦伦：具身的三道曙光和第一道关卡 附录：一些名词解释 - 级联误差，Cascade Error：指在包含多个串联模块或阶段的系统中，前一阶段产生的误差未被纠正，直接传递给下一阶段，误差被放大。 - Genie（Generative Interactive Environments）：DeepMind 团队发布的基础世界模型。它能通过一张图或一段文字描述生成一个动作可控的虚拟世界。目前发布到 Genie 3 - SIMA（Scalable Instructable Multiworld Agent）：DeepMind团队开发的虚拟角色策略模型（DeepMind 称其为 Agent），能理解玩家用自然语言下达的指令（如“向左转”、“拿起斧头”），在 Genie 等各种虚拟环境中操控角色执行任务（产生动作）。 -** Intuition**：一家希望打造空间智能的美国创业公司。 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「走进不同团队的成果，创新从来是连续的，不是跳跃的。」 上周五，DeepSeek V4 发布。我们邀请了两位一线 AI 从业者一起详解 DeepSeek V4 的技术实现和创新想法。 如果一句话概括：DeepSeek V4 并没有带来新的“范式变化”，它是继续在 R1 的“测试时扩展”范式下，用一系列组合创新和工程优化，让百万上下文从理论进入实用。 超长上下文上的稳定表现，正是 Agent 和多步复杂任务亟需的能力之一。 本期涉及的诸多技术术语见 Shownotes 末尾注释。 本期节目的图文版也已经发布:详解 DeepSeek V4：Infra 巨鲸 “四连击”，百万上下文走进现实 本期嘉宾 赵晨阳，RadixArk 工程师，SGLang 开源推理框架开发者 刘益枫，UCLA 博士生 本期主播 程曼祺，晚点科技报道负责人 时间线： 体感、对比、消失的成本、DeepSeek 的节奏 03:01 编程能力与“御三家”有差距；不再采用 DeepSeek 自己提出的 MLA 07:44 不再披露训练成本，“用模型能力说话” 09:23 延期推测：四个耦合的新 feature （新注意力+Muon+mHC+FP4）一起上，难度爆炸 12:36 不是范式创新，沿现有范式仍有巨大提升空间 性能与效率 14:32 提出新的能力方向比刷单个 benchmark 重要 16:41 坦诚的内部评测：9% DeepSeek 工程师不会把V4 Pro 作为编程首选 23:03 单 token 推理的计算量和 KV cache 大幅优化，但解决同样问题的 token 消耗更多了 V4 具体进展 28:32 整体思路：极致的稀疏 33:45 混合稀疏注意力：放弃 MLA，SWA滑动窗口+CSA稀疏压缩+HCA稠密压缩，层间预定义分工 39:37 Muon 优化器已成检验工程能力试金石 48:52 mHC：从 Seed 提出 HC 到 mHC；Kimi 的 Attention Residuals 54:24 Infra 两个关键词：TileLang & FP4 01:10:11 多专家训练+蒸馏的后训练 01:13:20 评测危机：benchmark会过时饱和，evaluation是永恒追求，agent评估未共识 更多讨论 01:19:25 近期模型共性：架构趋同（MOE+Muon），优化方向驱动（agent、coding） 01:25:18 美国追新能力、高定价；中国追性价比、工程极限 01:28:00 V4 最有可能被记住的思想：极致压缩+低激活比+低单token成本，成为后续开源模型起点 剪辑：Nick 相关链接： 158期：V4发布前的DeepSeek：人才竞争、组织特点和独特的AGI目标 143期：再聊 Attention：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进 104期：我给线性注意力找“金主”，字节 say No，MiniMax say Yes 103期：用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进 102期：DeepSeek 启动开源周，大模型开源到底在开什么？ 附录：术语、概念解释 - 模型架构相关 Token-wise（词元级）改进：优化模型处理单 token 的过程，通常用于提升注意力计算、上下文建模或推理效率。 Layer-wise 的改进：优化模型不同网络层的结构或计算方式，通常用于提升训练稳定性、表达能力或整体计算效率。 MoE：Mixture of Experts 混合专家网络，让不同“专家”子网络处理不同输入，降低单次计算成本。 哈希路由：把 token、样本或请求分配到不同专家、节点或存储位置的方法。V4 在前几层 MoE 用了哈希路由，避免起始层路由塌缩。 Engram：DeepSeek 之前提出的一种带 N-gram 编码器的辅助模块，通过额外编码连续 token 片段，帮助模型利用局部短语级信息。V4 未使用 Engram。 - 注意力相关 MLA：Multi-head Latent Attention，多头潜在注意力，引入潜在表示压缩 KV 信息的注意力机制，能降低显存占用和计算开销。 MQA：Multi-Query Attention，多查询注意力结构，共享 Key/Value，仅保留多头 Query，提升推理效率并减少 KV cache。 线性注意力：通过核函数或近似方法将注意力复杂度从二次降低为线性（一维），是改进原初注意力随上下文长度增加，计算和显存爆炸的方向之一。 稀疏注意力：仅计算部分 token 间的注意力（而非全连接），改进原初注意力问题的另一主流方向。 滑动窗口注意力：限制注意力仅在局部窗口内计算的一种稀疏注意力。 CSA：Compressed Sparse Attention，压缩稀疏注意力。用于长上下文建模的注意力机制。把序列分组压缩成更少的token，query再从中挑选出最相关的部分。V4中的压缩比是4:1。 HCA：Heavily Compressed Attention，高度压缩注意力。同样用于长上下文建模。相比CSA压缩比例更高（128:1），query无需挑选token。 NSA/DSA：V4发布之前，DeepSeek 在年初和 9 月先后提出的两种稀疏注意力方案。 - 优化器相关 AdamW：一种改进的 Adam 优化器，通过解耦权重衰减（weight decay）提升训练稳定性和泛化能力。 Muon：一种面向大模型训练的优化算法，通过改进梯度更新或内存效率来提升训练性能。 Learning Rate：学习率，控制模型参数每次更新步长的超参数，对训练稳定性和收敛速度至关重要。 牛顿-舒尔茨迭代：一种用于矩阵归一化或求逆的数值迭代方法。Muon 作者 Jordan 提到通常使用 5 次迭代，V4 中采用了 10 次迭代。 - 残差相关 HC：Hidden/Highway Connection，一类改进残差连接的信息通路设计，用于增强信息传递或控制梯度流。 mHC：Manifold-Constrained Hyper-Connections 流形约束超连。DeepSeek 在 HC 基础上的改造，解决了 HC 在大规模训练时的数值不稳定问题。mHC 使用了双随机矩阵，即每行和、每列和都等于 1 的矩阵，以约束信息流。 Attention Residuals：注意力残差连接，将注意力模块输出与输入相加，用于稳定训练并保留原始信息。 - Infra 相关 矩阵乘法：深度学习中最核心的基础计算操作（如向量与权重相乘）。 Kernel：算子核，指在底层硬件（如 GPU）上执行的高效计算函数，是深度学习算子的实现基础。比如矩阵乘法就要写 Kernel 去实现。 CUDA：英伟达开发的能使用 GPU 的一层软件系统，也指一套语言，本次访谈语境里指编写 GPU 算子 kernel 的语言。 Triton：由 OpenAI 开源，是对 CUDA 的一层抽象，能更简单的写 Kernel。 TileLang：一种面向 AI 高性能算子的 tile 级 DSL / 编译框架，把矩阵乘法、注意力等张量计算映射到 GPU 等硬件上执行，在 Triton 的易用性和 CUDA 的控制力之间取得了较好的平衡。 FP8、FP4、INT4：低精度数值格式，分别用 8 位、4 位浮点和 4 位整数表示模型中的权重或中间数据，用于降低显存和带宽压力、提升训练或推理效率。 FP4 比 FP8 更省显存和带宽，又比 INT4 更保留浮点动态范围，因此更适合复杂训练/采样链路，但收益取决于硬件、缩放策略和 kernel 实现。V4 在 1.6T 参数规模上实现 FP4 训练是个不小的挑战。 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「不做人形机器人的具身智能创业。」 本期嘉宾是原力灵机的联合创始人和 CEO 唐文斌。 2011 年，他和两位清华同学，印奇、杨沐一起创立旷视，这是中国最早的 AI 创业公司。比 DeepMind 晚一年。 2025 年初，唐文斌成立原力灵机，开始具身智能的新创业。 在本科到研究生时，他做过七年中国信息奥赛国家队的总教练，认识了大量奥赛 “小天才”，其中不少人之后加入了旷视，现在又在原力灵机和文斌一起创业。 本期节目也有视频版，可在小红书、B 站、抖音、视频号平台关注「晚点聊 LateTalk」收看。 本期节目的图文版也已经发布:对话原力灵机唐文斌：当中国最早的 AI 创业者做具身，他选择先不做人形 这期我们聊了竞赛往事、旷视的创业复盘和原力灵机的这 1 年：这是一家不做人形机器人的具身智能公司。也是一家会直接参与多模态基模预训练的公司。 这两件事都是非常规的少数派选择。 原力灵机会给中国具身市场带来哪些不同？请听完整节目吧。 本期嘉宾 唐文斌，原力灵机联合创始人 & CEO 本期主播 程曼祺，晚点科技报道负责人 剪辑：杨 时间线： 竞赛、姚班、IOI 国家队总教练：解题的本质是优化，出题比难题更难 01:49 同时参与三项奥赛：信息奥赛的乐趣是解法不唯一 05:50 本科继续 TopCoder ：Challenge 机制下，一次干掉 19 个队 08:29 七年 IOI 国家队教练：出题比做题难 10:31 唐杰的第一个研究生，与印奇相约创业 旷视创业：从体感游戏到 AI 技术平台 15:30 以 CV 技术做体感游戏，登上 App Store 免费榜前三 21:56 Face++ 开放平台，技术驱动 vs 产品驱动的两种创业 24:45 高中生范浩强成为旷视 6 号员工，“强进（周而进）组合” 夺得 ICCV 人脸识别全球冠军 30:19 AI to B 三个总结：价值可量化、不占客户太高成本、避免项目陷阱 十年前的智能机器人 34:31 调度系统才是提效核心，5 轮竞标拿下优衣库上海大仓 41:08 从差点搞砸到见到柳井正，拿下优衣库全球订单 从旷视机器人到原力灵机：参与预训练、不做人形机器人 49:21 从范浩强到张祥雨：旷视的一些 “老人” 为何不散？ 53:37 再看「天才策略」：大牛口头禅是 “这不本质”，而影响客户体验的所有东西都本质 01:00:38 具身原生：参与 VLM 预训练，一开始就加入机器人数据 01:11:01 只有具身公司能做的事 01:23:34 不做人形机器人，用模块化组合避免 overkill 或 underkill 01:27:14 RoboChallenge 和 Dexbotic，为何创业公司要开源 Infra? 01:39:39 具身行业会先分散再集中，幸存的个位数公司多数会是中国公司 01:46:34 为了低谷的绸缪：备足干粮、专注投入相信的事 01:55:33 曾做过太多加法，发现 A+B+C≈max(A,B,C) 02:03:50 创业 15 年：感谢一波又一波浪潮，依旧兴奋 02:04:51 真正的通用智能机器人，“这值得投入 lifetime” 02:06:14 连点成线 相关链接： 157 期：具身季报 26Q1：宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手 155 期：贾鹏创立至简后的首次访谈：从英伟达到理想，具身智能的六边形战士 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「马斯克不仅要成为太空经济参与者，也想成为规则制定方。」 这期节目邀请了 Fusion Fund 的创始合伙人张璐，她是 SpaceX 的投资人，而马斯克刚刚在 3 月底发布了一个大计划——Terafab，要联合特斯拉、SpaceX 和 xAI，自建史上最大芯片厂，掌握从设计到制造到部署应用的全栈产能。 其中最科幻的部分，是马斯克希望把 Terafab 80% 的算力部署到太空，建太空数据中心。 Terafab 的目标年产耗电量是惊人的 1TW，是目前全球 AI 算力年耗电量（40~50 GW，1 GW 是 100 万度电，即 100 万 kW）的约 20 倍。 从马斯克的雄心壮志出发，本期聊了太空经济的创业机会和 AI 基础设施领域的变化与机会机会，尤其是英伟达在 GTC 上展现的最新规划。 本期节目的图文版也已经发布:马斯克 Terafab 太空算力、英伟达重拾 CPU，与 Fusion Fund 张璐聊 AI 算力新趋势 | 晚点播客 本期嘉宾 张璐，Fusion Fund 创始合伙人 本期主播 程曼祺，晚点科技报道负责人 时间线： Terafab：1 TW 的超级算力计划 02:29 Terafab 的多重驱动力： 需求、机器人原生、SpaceX 上市、更少监管 06:46 对地服务有延迟，但太空应用本身也需要算力 17:57 马斯克的带动效应： 太空算力相关创业机会 AI 算力层与 Infra 层新趋势 22:48 英伟达 GTC 发布： 统一平台，异构芯片 30:00 LPU 和 CPU 背后： 是推理（使用模型）和 Agent 需求提升 41:09 xAI 动荡： 招人诚、开人快，“马斯克是一个迷人的暴君” 45:13 Google TPU，足以挑战英伟达 GPU 吗？ 企业级 AI 48:54 掌握预算的大企业 CIO/CTO 在想什么？ 52:15 看好医疗行业、金融行业 AI 应用 55:14 大企业收购 AI 初创企业带来退出，又催生更多连续创业者 01:02:13 连点成线 剪辑：甜食 相关链接： 115 期：华为发布超节点，如何搅动 AI 算力市场？与魔形智能徐凌杰聊芯片层新变化 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：