晚点聊 LateTalk

「走进不同团队的成果，创新从来是连续的，不是跳跃的。」 上周五，DeepSeek V4 发布。我们邀请了两位一线 AI 从业者一起详解 DeepSeek V4 的技术实现和创新想法。 如果一句话概括：DeepSeek V4 并没有带来新的“范式变化”，它是继续在 R1 的“测试时扩展”范式下，用一系列组合创新和工程优化，让百万上下文从理论进入实用。 超长上下文上的稳定表现，正是 Agent 和多步复杂任务亟需的能力之一。 本期涉及的诸多技术术语见 Shownotes 末尾注释。 本期节目的图文版也已经发布:详解 DeepSeek V4：Infra 巨鲸 “四连击”，百万上下文走进现实 本期嘉宾 赵晨阳，RadixArk 工程师，SGLang 开源推理框架开发者 刘益枫，UCLA 博士生 本期主播 程曼祺，晚点科技报道负责人 时间线： 体感、对比、消失的成本、DeepSeek 的节奏 03:01 编程能力与“御三家”有差距；不再采用 DeepSeek 自己提出的 MLA 07:44 不再披露训练成本，“用模型能力说话” 09:23 延期推测：四个耦合的新 feature （新注意力+Muon+mHC+FP4）一起上，难度爆炸 12:36 不是范式创新，沿现有范式仍有巨大提升空间 性能与效率 14:32 提出新的能力方向比刷单个 benchmark 重要 16:41 坦诚的内部评测：9% DeepSeek 工程师不会把V4 Pro 作为编程首选 23:03 单 token 推理的计算量和 KV cache 大幅优化，但解决同样问题的 token 消耗更多了 V4 具体进展 28:32 整体思路：极致的稀疏 33:45 混合稀疏注意力：放弃 MLA，SWA滑动窗口+CSA稀疏压缩+HCA稠密压缩，层间预定义分工 39:37 Muon 优化器已成检验工程能力试金石 48:52 mHC：从 Seed 提出 HC 到 mHC；Kimi 的 Attention Residuals 54:24 Infra 两个关键词：TileLang & FP4 01:10:11 多专家训练+蒸馏的后训练 01:13:20 评测危机：benchmark会过时饱和，evaluation是永恒追求，agent评估未共识 更多讨论 01:19:25 近期模型共性：架构趋同（MOE+Muon），优化方向驱动（agent、coding） 01:25:18 美国追新能力、高定价；中国追性价比、工程极限 01:28:00 V4 最有可能被记住的思想：极致压缩+低激活比+低单token成本，成为后续开源模型起点 剪辑：Nick 相关链接： 158期：V4发布前的DeepSeek：人才竞争、组织特点和独特的AGI目标 143期：再聊 Attention：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进 104期：我给线性注意力找“金主”，字节 say No，MiniMax say Yes 103期：用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进 102期：DeepSeek 启动开源周，大模型开源到底在开什么？ 附录：术语、概念解释 - 模型架构相关 Token-wise（词元级）改进：优化模型处理单 token 的过程，通常用于提升注意力计算、上下文建模或推理效率。 Layer-wise 的改进：优化模型不同网络层的结构或计算方式，通常用于提升训练稳定性、表达能力或整体计算效率。 MoE：Mixture of Experts 混合专家网络，让不同“专家”子网络处理不同输入，降低单次计算成本。 哈希路由：把 token、样本或请求分配到不同专家、节点或存储位置的方法。V4 在前几层 MoE 用了哈希路由，避免起始层路由塌缩。 Engram：DeepSeek 之前提出的一种带 N-gram 编码器的辅助模块，通过额外编码连续 token 片段，帮助模型利用局部短语级信息。V4 未使用 Engram。 - 注意力相关 MLA：Multi-head Latent Attention，多头潜在注意力，引入潜在表示压缩 KV 信息的注意力机制，能降低显存占用和计算开销。 MQA：Multi-Query Attention，多查询注意力结构，共享 Key/Value，仅保留多头 Query，提升推理效率并减少 KV cache。 线性注意力：通过核函数或近似方法将注意力复杂度从二次降低为线性（一维），是改进原初注意力随上下文长度增加，计算和显存爆炸的方向之一。 稀疏注意力：仅计算部分 token 间的注意力（而非全连接），改进原初注意力问题的另一主流方向。 滑动窗口注意力：限制注意力仅在局部窗口内计算的一种稀疏注意力。 CSA：Compressed Sparse Attention，压缩稀疏注意力。用于长上下文建模的注意力机制。把序列分组压缩成更少的token，query再从中挑选出最相关的部分。V4中的压缩比是4:1。 HCA：Heavily Compressed Attention，高度压缩注意力。同样用于长上下文建模。相比CSA压缩比例更高（128:1），query无需挑选token。 NSA/DSA：V4发布之前，DeepSeek 在年初和 9 月先后提出的两种稀疏注意力方案。 - 优化器相关 AdamW：一种改进的 Adam 优化器，通过解耦权重衰减（weight decay）提升训练稳定性和泛化能力。 Muon：一种面向大模型训练的优化算法，通过改进梯度更新或内存效率来提升训练性能。 Learning Rate：学习率，控制模型参数每次更新步长的超参数，对训练稳定性和收敛速度至关重要。 牛顿-舒尔茨迭代：一种用于矩阵归一化或求逆的数值迭代方法。Muon 作者 Jordan 提到通常使用 5 次迭代，V4 中采用了 10 次迭代。 - 残差相关 HC：Hidden/Highway Connection，一类改进残差连接的信息通路设计，用于增强信息传递或控制梯度流。 mHC：Manifold-Constrained Hyper-Connections 流形约束超连。DeepSeek 在 HC 基础上的改造，解决了 HC 在大规模训练时的数值不稳定问题。mHC 使用了双随机矩阵，即每行和、每列和都等于 1 的矩阵，以约束信息流。 Attention Residuals：注意力残差连接，将注意力模块输出与输入相加，用于稳定训练并保留原始信息。 - Infra 相关 矩阵乘法：深度学习中最核心的基础计算操作（如向量与权重相乘）。 Kernel：算子核，指在底层硬件（如 GPU）上执行的高效计算函数，是深度学习算子的实现基础。比如矩阵乘法就要写 Kernel 去实现。 CUDA：英伟达开发的能使用 GPU 的一层软件系统，也指一套语言，本次访谈语境里指编写 GPU 算子 kernel 的语言。 Triton：由 OpenAI 开源，是对 CUDA 的一层抽象，能更简单的写 Kernel。 TileLang：一种面向 AI 高性能算子的 tile 级 DSL / 编译框架，把矩阵乘法、注意力等张量计算映射到 GPU 等硬件上执行，在 Triton 的易用性和 CUDA 的控制力之间取得了较好的平衡。 FP8、FP4、INT4：低精度数值格式，分别用 8 位、4 位浮点和 4 位整数表示模型中的权重或中间数据，用于降低显存和带宽压力、提升训练或推理效率。 FP4 比 FP8 更省显存和带宽，又比 INT4 更保留浮点动态范围，因此更适合复杂训练/采样链路，但收益取决于硬件、缩放策略和 kernel 实现。V4 在 1.6T 参数规模上实现 FP4 训练是个不小的挑战。 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「不做人形机器人的具身智能创业。」 本期嘉宾是原力灵机的联合创始人和 CEO 唐文斌。 2011 年，他和两位清华同学，印奇、杨沐一起创立旷视，这是中国最早的 AI 创业公司。比 DeepMind 晚一年。 2025 年初，唐文斌成立原力灵机，开始具身智能的新创业。 在本科到研究生时，他做过七年中国信息奥赛国家队的总教练，认识了大量奥赛 “小天才”，其中不少人之后加入了旷视，现在又在原力灵机和文斌一起创业。 本期节目也有视频版，可在小红书、B 站、抖音、视频号平台关注「晚点聊 LateTalk」收看。 本期节目的图文版也已经发布:对话原力灵机唐文斌：当中国最早的 AI 创业者做具身，他选择先不做人形 这期我们聊了竞赛往事、旷视的创业复盘和原力灵机的这 1 年：这是一家不做人形机器人的具身智能公司。也是一家会直接参与多模态基模预训练的公司。 这两件事都是非常规的少数派选择。 原力灵机会给中国具身市场带来哪些不同？请听完整节目吧。 本期嘉宾 唐文斌，原力灵机联合创始人 & CEO 本期主播 程曼祺，晚点科技报道负责人 剪辑：杨 时间线： 竞赛、姚班、IOI 国家队总教练：解题的本质是优化，出题比难题更难 01:49 同时参与三项奥赛：信息奥赛的乐趣是解法不唯一 05:50 本科继续 TopCoder ：Challenge 机制下，一次干掉 19 个队 08:29 七年 IOI 国家队教练：出题比做题难 10:31 唐杰的第一个研究生，与印奇相约创业 旷视创业：从体感游戏到 AI 技术平台 15:30 以 CV 技术做体感游戏，登上 App Store 免费榜前三 21:56 Face++ 开放平台，技术驱动 vs 产品驱动的两种创业 24:45 高中生范浩强成为旷视 6 号员工，“强进（周而进）组合” 夺得 ICCV 人脸识别全球冠军 30:19 AI to B 三个总结：价值可量化、不占客户太高成本、避免项目陷阱 十年前的智能机器人 34:31 调度系统才是提效核心，5 轮竞标拿下优衣库上海大仓 41:08 从差点搞砸到见到柳井正，拿下优衣库全球订单 从旷视机器人到原力灵机：参与预训练、不做人形机器人 49:21 从范浩强到张祥雨：旷视的一些 “老人” 为何不散？ 53:37 再看「天才策略」：大牛口头禅是 “这不本质”，而影响客户体验的所有东西都本质 01:00:38 具身原生：参与 VLM 预训练，一开始就加入机器人数据 01:11:01 只有具身公司能做的事 01:23:34 不做人形机器人，用模块化组合避免 overkill 或 underkill 01:27:14 RoboChallenge 和 Dexbotic，为何创业公司要开源 Infra? 01:39:39 具身行业会先分散再集中，幸存的个位数公司多数会是中国公司 01:46:34 为了低谷的绸缪：备足干粮、专注投入相信的事 01:55:33 曾做过太多加法，发现 A+B+C≈max(A,B,C) 02:03:50 创业 15 年：感谢一波又一波浪潮，依旧兴奋 02:04:51 真正的通用智能机器人，“这值得投入 lifetime” 02:06:14 连点成线 相关链接： 157 期：具身季报 26Q1：宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手 155 期：贾鹏创立至简后的首次访谈：从英伟达到理想，具身智能的六边形战士 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「马斯克不仅要成为太空经济参与者，也想成为规则制定方。」 这期节目邀请了 Fusion Fund 的创始合伙人张璐，她是 SpaceX 的投资人，而马斯克刚刚在 3 月底发布了一个大计划——Terafab，要联合特斯拉、SpaceX 和 xAI，自建史上最大芯片厂，掌握从设计到制造到部署应用的全栈产能。 其中最科幻的部分，是马斯克希望把 Terafab 80% 的算力部署到太空，建太空数据中心。 Terafab 的目标年产耗电量是惊人的 1TW，是目前全球 AI 算力年耗电量（40~50 GW，1 GW 是 100 万度电，即 100 万 kW）的约 20 倍。 从马斯克的雄心壮志出发，本期聊了太空经济的创业机会和 AI 基础设施领域的变化与机会机会，尤其是英伟达在 GTC 上展现的最新规划。 本期节目的图文版也已经发布:马斯克 Terafab 太空算力、英伟达重拾 CPU，与 Fusion Fund 张璐聊 AI 算力新趋势 | 晚点播客 本期嘉宾 张璐，Fusion Fund 创始合伙人 本期主播 程曼祺，晚点科技报道负责人 时间线： Terafab：1 TW 的超级算力计划 02:29 Terafab 的多重驱动力： 需求、机器人原生、SpaceX 上市、更少监管 06:46 对地服务有延迟，但太空应用本身也需要算力 17:57 马斯克的带动效应： 太空算力相关创业机会 AI 算力层与 Infra 层新趋势 22:48 英伟达 GTC 发布： 统一平台，异构芯片 30:00 LPU 和 CPU 背后： 是推理（使用模型）和 Agent 需求提升 41:09 xAI 动荡： 招人诚、开人快，“马斯克是一个迷人的暴君” 45:13 Google TPU，足以挑战英伟达 GPU 吗？ 企业级 AI 48:54 掌握预算的大企业 CIO/CTO 在想什么？ 52:15 看好医疗行业、金融行业 AI 应用 55:14 大企业收购 AI 初创企业带来退出，又催生更多连续创业者 01:02:13 连点成线 剪辑：甜食 相关链接： 115 期：华为发布超节点，如何搅动 AI 算力市场？与魔形智能徐凌杰聊芯片层新变化 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「不仅是比特，不仅是语言。」 这期节目是我们的第一期具身智能季报，邀请了我很喜欢的一位投资人，Alphaist Partners 创始合伙人陈哲 Peter。 Alphaist 也有自己的播客，就叫《The Alphaist》，这期节目之后也会在 The Alphaist 串台播出。 过去七年，Peter 在五源专注投资机器人和硬件科技，投资过海柔、松灵、本末、地瓜等公司。在去年创立 Alphaist 之后，他想放开手去寻找更多 Alpha Founders。我对这类创始人的理解是：哪怕不被认同，他们也极其笃定自己的判断，是可以定义规则或打破规则的人。 在跨学科、高复杂度、需要开拓精神的具身智能领域，就有不少这样的创始人，也需要更多这样的创始人。 这期节目，我们从本季度的进展着手，Peter 分享了三月中旬去 GTC 与全球从业者的交流，同时也带到了过去两年具身智能的发展。 在讨论人形机器人的部分，我们盘点了中美几家头部公司，如宇树、银河、特斯拉 Optimus、Figure 的近期进展，以及那些在智能能力或数据上给行业带来启发的公司，如 Pi、Sunday 和 Generalist。 图注：银河通用人形机器人打网球 demo。 接着重点讨论了当前具身智能的两个前沿研究方向：灵巧手和世界模型： 在灵巧手部分，我们重点聊了 Sharpa 的进展，和 Optimus 绳驱方案的争议； 在世界模型上，英伟达近期连续发布 DreamZero、DreamDojo 和 EgoScale 数据框架，提出 WAM 世界动作模型，被视为比 VLA 天花板更高的方向。 之后的季报里，我和 Peter 会邀请更多从业者一起分享。 图注：Sharpa 灵巧手 本期节目的图文版也已经发布:具身季报 26Q1：宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手 | 晚点播客 本期嘉宾 陈哲，Alphaist Partners 创始合伙人 本期主播： 程曼祺，晚点科技报道负责人 时间线： 04:48 Q1 TOP 5 进展 -宇树春晚表演，一致性 -Sharpa 灵巧手实机展示，长程任务组装风车 -英伟达发布 DreamZero、DreamDojo，WAM（世界动作模型）而非 VLA -银河通用机器人打网球 -波士顿动力新版电动 Atlas 人形机器人丨中国 10:37 宇树春晚门道：25 年下半年新技术的集中展现，一致性是大亮点 20:13 宇树做科研市场，从来不被投资市场「喜欢」，但专注才造就 G1 的成功 24:20 王兴兴和汪滔：不极致，不成活；目前的智能能力不影响宇树整体竞争力 28:22 银河通用人形机器人打网球，Karpathy 说“这肯定是 AI 生成的” 34:13 双足价值再思考，波士顿动力 Stretch 机器人的启示 人形机器人丨美国 39:45 新版 Atlas：模块化设计、左右腿可互换，人形也可超人 42:29 Optimus Gen3 再延期，已缩水的 1 万台年产目标仍激进 44:58 Optimus 灵巧手，绳驱vs直驱：绳驱真符合“第一性原理吗”？ 48:57 “浮夸”的 Figure 和它“浮夸”的创始人 Brett，顺势而为 52:59 美国本土供应链复兴有长期挑战 57:58 Pi、Sunday、Generalist；Sharpa 提出的三层架构：System2（低频、规划）、System1（高频、动作执行）、System0（触觉） 灵巧手创业友好，世界模型的底层属于大厂 01:07:06 灵巧手市场可能存在宇树在人形市场的 G1 机会 01:14:30 世界模型和英伟达的 WAM（DreamZero、DreamDojo）：不再以语言为底层 01:27:18 英伟达 EgoScale 数据框架 & 具身数据的金字塔 01:37:47 视频生成的底层更大厂友好，但世界模型也有创业公司：Rhoda AI 融了 4.5 亿美元 机器人端侧算力：越到新兴市场，英伟达统治力越弱 01:43:42 从云端→车载→机器人：英伟达 GPU 统治力逐步减弱，“创新者窘境” 01:46:26 国产芯片机会：地平线、地瓜在量产机器人市场领先 01:48:24 机器人终局可能高度集中 中国具身上市潮 & 下季度展望 01:53:59 宇树上市，是一家高质量公司的上市，不是泡沫 01:59:59 下季度展望：世界模型超越 VLA、灵巧手进展、马上举行的机器人马拉松比赛从“搞笑”走向竞技 02:04:20 连点成线：前几期具身访谈共性总结；触觉和语言之外 本期剪辑：甜食、Nick 相关链接： 《对话宇树科技王兴兴，造出 9.9 万元人形机器人的 90 后偏才》 155 期：贾鹏创立至简后的首次访谈：从英伟达到理想，具身智能的六边形战士 图文版：《至简贾鹏：最快具身独角兽半年融资 20 亿，做 “六边形战士” 才能活》 152 期：访谈千寻创始人韩峰涛：20 亿新融资、具身模型淘汰赛、落地非共识 图文版：《独家专访千寻创始人：20 亿新融资、具身模型淘汰赛、落地非共识》 149 期：具身模型哪家强？与范浩强、高阳聊具身模型的测评、RoboChallenge，26 年具身展望 148 期：访谈它石创始人陈亦伦：具身的三道曙光和第一道关卡 图文版：《陈亦伦和李震宇创立的具身公司它石智航，不做 VLA、不仿真，不走主流路线》 65 期：信仰充值的威力：与逐际动力谌骅聊聊 GTC 和人形机器人新进展 | AI 大爆炸 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「具身智能的竞争，本质是体系的竞争。」 今天的嘉宾是一位没有亮相过的具身智能创业者，理想前自动驾驶技术研发负责人贾鹏。 2016 年，他成为英伟达中国智驾团队的第一个员工。五年后的 2020 年，他加入刚开始自研智驾系统的理想，和团队一起实现了逆袭。 去年夏天，贾鹏创立具身智能公司至简动力，他拉来了之前的上司，理想前 CTO 王凯，以及和他并肩战斗过五年的理想智驾前量产负责人王佳佳一起创业。 它符合中国投资具身智能的一种典型审美——创始团队有丰富的研发和量产经验。在被认为与具身关系密切的自动驾驶战场，打过硬仗、打过胜仗。而且核心团队之间磨合已久，分工默契。 成立的最初半年里，至简就融资 20 亿元人民币，是现在最年轻的具身智能独角兽。 作为创业后的首次访谈，贾鹏在这期节目中完整回顾了从英伟达到理想的智驾探索，再到具身智能的创业思考。 他给公司取名至简，因为他相信，大道至简，越简单的东西，越容易规模化。 本期访谈的视频版已经发布，可在抖音、微信视频号和 B 站，搜索《晚点聊》收看。 本期节目的图文版也已经发布:至简贾鹏：最快具身独角兽半年融资 20 亿，做 “六边形战士” 才能活 本期嘉宾 贾鹏，至简动力创始人 & CEO 本期主播： 程曼祺，晚点科技报道负责人 时间线： 2016~2020 英伟达：“老黄脑门的温度比别人高一度” 00:01 英伟达智驾中国团队第一个员工 09:10 从服务 L4 自动驾驶到转向量产 13:57 从工程师到架构师、多面手 15:13 老黄凌晨 5 点起床看邮件、论文，脑门温度比太太高一度 18:07 英伟达的前瞻投入心法：能抗外压、愿景共享、主业强劲 2020~2025 理想智驾：后来者怎么先交卷 22:30 李想当时怎么想智驾：数据重要性，下半场看智能化，“车和家” 29:25 一起看《全营一杆枪》的日子 34:44 自研第一仗：双 J3 交付高速 NOA，一群 “新手” 的生死战 40:06 抗住压力的转身：有图切无图 48:03 智驾 “做成” 的 3 重指标 2025 的具身创业新起点：“挑战自我成长极限” 51:16 FSD v14 “让人又惊喜、又失望”，该做新的事了 59:41 “第一个大概率会死，但做成的会上第一批”，具身创业现在仍是第一批 01:07:51 模型、产品、组织都要简单；同时得是 “六边形” 战士 01:14:01 具身的终局是 “分散” 的垄断 01:19:46 具身研发分 3 层，“合成数据有用，但绝不是主力” 01:34:30 To A（研究）到 To B 阶段的转换会如何发生？ 01:42:01 具身的本质是 Physical Agent：大公司做底座，创业公司做 Agent 01:48:13 不做流水线替代，寻找 “端到端” 任务 具身公司该如何组织 & 行业观察 01:57:23 智驾与具身：相似的、不同的 02:01:34 不设组织架构，以项目驱动团队 02:18:05 少被讨论的现象：硬件还远未成熟 02:19:29 更强具身智能到来时间仍有分歧 02:25:03 具身上市潮之后，会如何？ 02:37:28 擅长从 0 到 1 逆风局，创业这半年 “挺爽的” 本期剪辑：宇亮、Nick 相关链接： 152 期:访谈千寻创始人韩峰涛：20 亿新融资、具身模型淘汰赛、落地非共识 149 期:具身模型哪家强？与范浩强、高阳聊具身模型的测评、RoboChallenge，26 年具身展望 148 期:访谈它石创始人陈亦伦：具身的三道曙光和第一道关卡 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

这期不到 20 分钟的短播客，快速讲了 3 月 3 日（周二）到 4 日（周三）发生了什么，澄清一些广为传播但缺乏事实依据的说法，也回顾了 23 年以来 Qwen 的组织流转和这次人事巨震的伏笔。 Qwen 的变化仍在继续，《晚点 LatePost》会跟踪后续。 这期主要是一线研发人员视角得到的事实和信息，阿里公司和组层面会怎么想、怎么看，接下来怎么做，未来一段时间会更为明朗。 相关链接： 《晚点独家丨林俊旸提出离职，Qwen 多位负责人离开，团队或将调整》 本期主播：程曼祺 晚点 LatePost 科技报道负责人 本期剪辑：甜食 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「软件应用也可以 “3D 打印” 了。」 当 Agent 构造变得越来越简单，会发生什么？Agent 交易平台 MuleRun 创始人陈宇森分享了他的观察和创业实践。 陈宇森是一名少年成名的连续创业者，22 岁从浙大毕业后创办网络安全公司长亭科技，5 年后卖给阿里云，现在他带着对 AI Agent 的理解重新出发。 MuleRun 基于这样一个核心假设，当 Vibe Coding 大幅降低了应用开发门槛，Claude Code 带来 Agent 创作新方法，大量非技术背景的人也能把自己的工作知识和流程封装成一个个勤恳的 AI 骡子，实现个人工作的自动化。 这期内容包含两次聊天，分别发生在 25 年 12 月和 26 年 1 月上旬，不到 1 个月里，随着 MuleRun AgentBuilder 开始内测，陈宇森和 MuleRun 的思路已发生了一些变化。 他认为，未来的 market place 不再会是过去我们熟悉的货架形态，而是在对话中触发交易。MuleRun 的调整本身，也是当前 AI 应用瞬息万变的一个缩影。 这期节目的后半段我们也聊了一个创业 10 年，成立过 4 家公司，经历过成败起伏的创业者，如何以「用心」避免陷入平庸和对抗自我怀疑。 本期节目的图文版也已经发布:访谈 MuleRun 陈宇森：Claude Code 带来 Agent 创作新范式、未来的软件是日抛式的 本期嘉宾： 陈宇森，MuleRun 创始人 & CEO 本期主播： 程曼祺，晚点 LatePost 科技报道负责人 时间线跳转： -12 月底的访谈：寻找方向、Agent 交易平台的机会与难点 02:20 从 Vibe Coding 到 Agent 交易平台 09:20 Agent 的供给还不够丰富，但 Claude Code 带来拐点 16:41 MuleRun 做的两件事：好的 Runtime、清晰的 Skills、Prompt 的商业化 23:08 同样的技术变化，不同的做法：N8N、Dify、Coze、蚂蚁灵光、马卡龙、Youware 28:54 上线 3 个月：用户反馈、Agent 审核与上架、大量 SOP+少量大模型的开发方式 36:50 做好 Agent 的开发工具和交易平台的难点 40:29 如果 Agent 建造门槛大幅降低，通用 Agent 还存在吗？ -1月中旬的访谈：Agent Builder 内测开启、交易平台不会再是货架式 42:21 再聊 Claude Code：Skills 详解，MuleRun 的 Skill 评价体系（Eval）和安全工作 47:32 “应用的 3D 打印机”，未来的软件是日抛式的，AI 是制造业 52:12 Agent Builder：从套壳模型→套壳“Claude Code” 01:01:22 Agent 构造变简单、数量变多：未来的 Market Place 不应该是货架式的 01:08:32 Agent Builder 的内测效果，Agent 开发工具和交易的界限？ -12 月底的访谈：创立 4 家公司，成功退出过也低谷过，以「用心」对抗平庸 01:15:40 从长亭到同时创业做两家公司，一度觉得自己无所不能 01:25:24 走过下坡路，关过公司，痛苦带来的韧性 01:32:13 一定不要在选择题上出错，「用心」对抗平庸 01:40:16 26 AI 应用市场年会发生什么？跳出 Chatbot、跳过 1 亿甚至 10 亿美元 ARR 01:44:02 连点成线 往期相关节目： 106 期:与真格戴雨森长聊 Agent：各行业都会遭遇“李世石时刻”，Attention is not all you need|Agent#1 137 期:Agent 是机会，造 Agent 的工具也是|从OpenAI开发者日聊起｜Agent#6 150 期:年末AI回顾：从模型到应用、从技术到商战，拽住洪流中的意义之线 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「用大规模测评驱散 PR 式 demo 的迷雾。」 虚拟空间的大模型有大量 benchmark，测试非常直观；而在如火如荼的具身领域，怎么衡量模型能力，本身还是需要探索的课题。 这期，我们邀请了两位具身智能从业者，原力灵机联创范浩强和千寻智能联创与首席科学家高阳，一起聊具身模型的测评。 范浩强从高三就开始在旷视工作，有丰富的计算机视觉开发和落地经验；高阳回国前在伯克利 BAIR 攻读博士，和 PI 的联创 Sergey Levine 有诸多学术合作。 去年 10 月，原力灵机和 Hugging Face 联合发起了全球首个具身智能的大规模真机评测平台 RoboChallenge。在前不久释放的最新测评结果中，千寻的 Spirit v1.5 模型登顶榜单，表现超过 π*0.5。 RoboChallenge 测评平台网站：https://robochallenge.ai/home 图注：RoboChallenge 测评现场 在 RoboChallenge 的测评中，机器人不再只活在精挑细选的 Demo 视频里，而是要在多样化的“Table 30”任务中接受真实世界的“毒打”——任务包括碎纸、插花，扫二维码。 这期我们聊了具身模型测评的难点，RoboChallenge、RoboArena 等目前的大规模测评尝试是怎样的思路？行业里心照不宣的 demo 工程，以及 2026 年，我们可能从哪些路径逼近具身智能的 GPT-3 时刻。 范浩强和高阳说，组织和参与测评的过程，组织和参与测评的过程，本身增强了他们对具身的信心，，从 π*0 在 Table 30 任务上只有 20% 的成功率到 π*0.5 的翻倍和一些国产模型的超越，具身仍很早期，但进步速度也很惊人。 本期嘉宾： 范浩强 原力灵机联合创始人 高阳 千寻智能联合创始人、清华大学叉院助理教授 本期主播： 程曼祺 晚点 LatePost 科技报道负责人 时间线跳转： -发起 RoboChallenge，行业呼唤大规模测评 03:24 范浩强和高阳的从业经验 06:53 RoboChallenge 的发起，见证成功率从 π0 的 20% 到 π0.5 的超 40% 12:40 以往方法的问题：环境不一致、测评不持续、仿真有局限 21:47 对比 RoboArena 和 RoboChallenge：前者是分布式 Zero-shot 测评；后者是集中 few-shot 测评 28:33 上线 2 个多月的观察：超预期的 1 万条测试提交，国产模型超越 33:04 Table 30 任务集的设计，插花、扫二维码等任务的“刁钻”考点 40:24 提交者自己做 fine-tune（微调），开源权重证明诚信；接下来会更新灵巧手的测评 -2026 年具身展望 45:07 学习原理已经收敛，Scaling Data 是 2026 年的行业主题 48:53 4 种数据类型，各团队的不同数据 bet 57:20 落地应用，具身的“Coding”任务是什么？“破圈”时刻何时出现？ 01:07:00 大众与从业者之间的认知落差，行业心照不宣的“demo”工程 01:12:50 具身测评可以被 Hack 吗？如何反制 hack？ 01:14:52 26 年想验证的问题：具身中国追平美国的 DeepSeek 时刻是否到？基模能否上一个台阶？ 01:17:47 连点成线：总结观察具身进展的 3 个维度 & 具身创业团队的不同来源 附录：本期中出现的一些人物、技术名词、项目、公司 -Sergey Levine：Sergey Levine，加州大学伯克利分校教授，机器人强化学习与通用学习系统的重要推动者。曾参与 Google / Google Brain 的机器人与强化学习研究，并共同创立具身智能公司 Physical Intelligence（PI）。 -π 系列模型：PI 提出的通用机器人模型系列，最新版本 π*0.6。 -CIFAR：一个经典计算机视觉数据集，相比之后出现的 ImageNet，它规模更小、分辨率更低，常用于快速实验和教学。 -Sunday Robotics：由 Tony Zhao 与 Cheng Chi 在 2024 年联合创立的家庭场景通用机器人公司。 -Generalist AI：2024 年成立的美国通用机器人 / 具身智能的创业公司。 本期剪辑：Nick 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「Agent 的工具可以以终为始。」 今天这期节目，是晚点的作者祝颖丽对 OiiOii 创始人闹闹的访谈。本次访谈的文字版今天也会发布在《晚点科技》公众号上。 OiiOii 是一款动画创作 Agent。刚刚在 25 年 11 月开启内测。闹闹自己是一名动画爱好者，2014年，在微信工作 3 年后，她辞职学了半年动画。但当时她发现，做动画太难了，行业环境也很糟。 时隔10年，在自己创过业，去字节做过剪映，在大模型公司阶跃星辰做过二次元社区产品“狸谱”之后，她找到了用 AI 延续动画梦想的方法。 这期，闹闹分享了她和团队是如何构思和做出 OiiOii 的，以及她过去的创业和大厂经历。 图：OiiOii 官网页面。地址：https://www.oiioii.ai/home） 本期嘉宾：闹闹，OiiOii 创始人 本期主播：祝颖丽，《晚点 LatePost》 作者 时间线跳转： 05:06 先做好工具，再去做内容的社区：因为大家不再能忍受内容的单调了 11:40 市场现状：现在动画的产能和消费非常不对等 16:46 OiiOii为什么是这个形态？ 31:04 如果做AI漫剧，商业模式、审美都不一样 41:30 怎么利用和理解不同的模型 51:50 现在的团队分工 53:50 第一次创业做极限运动社区，发现其实喜欢做内容 01:06:17 第一次创业留下的最宝贵的东西：抗体 01:18:15 在字节：对剪映和抖音特效最大贡献是… 01:27:17 去了B站：看到产能被憋着了 01:28:45 OiiOii 后面大致的节奏：填充垂类内容，去海外，做内容社区 往期「AI 应用/AI Agent」创始人访谈： 晚点聊 136：Sora新世界 & Lovart 4个月复盘 | 与陈冕聊怎么做垂类 晚点聊 125：用AI复刻一个「我」，与心识宇宙陶芳波聊身份模型 晚点聊 111：Pokee.ai 朱哲清的 Agent 造法：强化学习作后端，语言模型作前端 《晚点对话明超平：他们不信 AI coding 会是新的创作方式，我很开心》 剪辑制作：Nick ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「创业治好了我的死亡焦虑。」 极壳是第一家把外骨骼做成消费级产品的公司。21 年成立以来，他们经历过账上只有20万元人民币的危急时刻，也刚在今年融到了 7000 万美元，出货量达到数万台。 图注：极壳已发布 4 款消费级外骨骼产品。 这只是个开始，远远不意味着成功。孙宽多次告诉我们，消费级外骨骼还在非常早期的阶段；他享受定义一个新品类的乐趣，也深知跨越鸿沟，走出小众市场的挑战。 这是一家起步时没有风口的公司；这是一个父母开手机卖场，从小做各种发明，但没有名校光环的创始人。 孙宽分享了他早年的“折腾”经历，他创立极壳、开发出第一款产品的故事，以及他对未来的更多想象。 图注：孙宽是一个户外爱好者；极壳的主要目标用户是户外人群，外骨骼可以帮助他们增强运动能力。 本期嘉宾：孙宽，极壳创始人 & CEO 本期主播： 程曼祺，《晚点 LatePost》科技报道负责人 李梓楠，《晚点 LatePost》科技报道作者 时间线跳转： -水滴字幕、光固化 3D 打印机、3 年轮岗、内部创业 03:05《攻壳机动队》、90 后的科学幻想、技术是魔法 13:25 第一份工作：从轮岗 3 年到模块化 PC 的内部创业 18:27 一次误诊后回到初心：做一件做着做着挂了的事也不会后悔 -从 1 人公司，到第一款消费级外骨骼 26:51 1 人公司手搓原型，一度账上只有 20 万元人民币 40:06 做“真有用”的消费级外骨骼：拉高核心正面效果，尽量降低负面影像 49:41 推倒第一代方案，用户体验比新架构重要 01:04:27 正式交付 Hpershell X，有人日行 7 万步，有人重返户外 -效率的迭代：从 40 个月到 5 个月 01:09:11 从成立到第一款产品，40 个月；第二代产品，5 个月 01:05:08 从 1 人公司，到 4 位联创和 200+团队 01:25:47 对拓竹组织的观察：好的人，希望身边都是好的人 -跨越鸿沟 01:32:52 品类跨越鸿沟：营造向往、价格、自研、形态拓展 01:49:47 组织跑得更快 -创业之后更踏实了，“活对了的感觉” 01:56:22 创业治好了我的“死亡恐惧”。 01:59:53 广义的外骨骼，最终是让我们的身体可编程。 02:05:40 连点成线：后记 & 往期节目推荐 往期「消费科技」创始人访谈： 晚点聊 120 期：科创板后再访Insta360刘靖康：这何尝不是一种极限运动！ 晚点聊 141 期：大疆激光雷达前负责人做了台“电动轮椅”？与 Strutt 洪小平聊创业两年半：不做人形也能通向具身 往期「AI 硬件」创始人访谈： 晚点聊 107 期：与Haivivi李勇聊月入千万的AI Jellycat：小众AI硬件×大众消费品的交叉口创业 晚点聊 118 期：天生卷王郭人杰：从 97 年的扫地机器人总裁到创业做家庭通用机器人 晚点聊 122 期：10分钟朱啸虎投资，泡泡玛特、米哈游都在试；Fuzozo孙兆治聊AI潮玩 剪辑制作：甜食 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「不仅是提效，线性注意力在数据受限情况下的更多潜力。」 今年初的两期节目（103、104 期）里也讨论过注意力机制，这是大语言模型的核心机制。 9 月 和 10 月，阿里和 Kimi 都发布了相关进展，而且都用到了一个线性注意力成果，DeltaNet。 本期嘉宾，就是 DeltaNet 的核心贡献者之一，现在在 MIT 读博士的杨松琳，她也是线性注意力开源小组 FLA 的发起者。 这期节目在 25 分钟以前很硬核，松琳讲了线性注意力和 DeltaNet 的发展脉络，为何 21 年刚被提出时没引起太多注意，后来怎么进化的。 25 分钟以后，是关注 AI 比较多的文科生，比如我也能完全跟上的部分。我们讨论了，重新去做 full attention 的 MiniMax，以及未来要在旗舰模型上用线性注意力的 Kimi 和阿里的不同选择；线性注意力的优劣势；以及一些脑洞——如果算力无限，还需要线性注意力？松琳给了很有启发的回答。 最后半小时，松琳分享了她作为研究员，怎么习得交叉技能的，怎么开始发起FLA小组等成长经历。 本期嘉宾：杨松琳，MIT 博士生在读，DeltaNet 贡献者 本期主播：程曼祺，《晚点 LatePost》科技报道负责人 时间线跳转： -DeltaNet 的诞生演进与近期动向 02:07 注意力机制是什么？ 04:21 DeltaNet 的提出，用 Delta Rule 来增强 in-context retrieval 09:41 近年的改进主要是模型架构，而非“更新规则” 14:25 阿里 Qwen 团队 apple to apple 比较几种线性注意力混合方式；Kimi Linear 对 Gated Delta 的具体改进 17:00 更新规则和模型架构改进的区别：更新规则是在算子层面“动刀” 19:50 算法出身，自学 Infra；学习 Hazy Research Group 的风格 23:28 Qwen 和 Kimi 大概率在下一代旗舰模型用线性注意力，而 MiniMax 用回 full attention；DeepSeek 目前释放的改进都是“稀疏注意力” 37:07 稀疏注意力 vs 线性注意力潜力对比 39:40 即使算力无限，线性注意力仍有价值，因为它在有限数据中的学习效率更高，而高质量数据正是当前瓶颈 42:28 线性注意力在状态追踪上也可能有效果优势，而状态追踪对 Agentic 很重要 47:33 线性注意力的“归纳偏见”和 The Bitter Lesson：先验与 scalable 并不矛盾 49:30 回应 RWKV（原始智能）彭博：从未说发明 DeltaNet，一直在给 Schmidhuber 署名 -Householder 与 DeltaNet 的联想，像运营产品一样运营技术社区 51:51 关注注意力改进的起点，数学知识、Infra，交叉能力怎么积累？ 58:48 发现 Hoseholder 累乘和 DeltaNet 关联的过程 01:02:44 AI 何时能像人这样产生联想？——Prompt 合适，大模型应该能独立发现这个算法 01:04:11 FLA 小组的产生，受 Tri Dao 做 FlashAttention 的启发，像运营产品一样运营技术社区；Kimi 从 FLA 小组招募了线性注意力研究者 -注意力改进的未来趋势 01:11:24 稀疏注意力的改进，DeepSeek 年初 NSA 到最近 DSA 的变化 01:16:44 线性注意力的改进，从线性混合全注意力，到线性混合稀疏注意力（比如混合 DeepSeek DSA 和 Kimi KDA 😀 01:21:10 更广泛来说，关注何种模型演进？——持续学习 相关链接： 图文版：《再谈注意力：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进丨晚点播客》 晚点聊 103 期：《用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进》 晚点聊 104 期：《我给线性注意力找“金主”，字节 say No，MiniMax say Yes》 剪辑制作：Nick 附录，本期提到的一些论文（更多具体名词解释，见本期文字版）： Transformers are RNNs: Fast Autoregressive Transformers with Linear Attention Linear Transformers Are Secretly Fast Weight Programmers Parallelizing Linear Transformers with the Delta Rule over Sequence Length Gated Linear Attention Transformers with Hardware-Efficient Training Recurrence-Complete Frame-based Action Models 本期主播： 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「大家更关注 PMF 的 M（需求），但有时 P（产品）做得足够好，M 就能自动打开。」 “大疆系”正成为创投圈的一股小风潮。2023 年夏天，洪小平创立 Strutt（若创科技），他曾任大疆光电部及激光雷达产品线览沃负责人。 Strutt 的首款产品 ev¹ 即将在明年初正式发售 ，它看起来是一台电动轮椅，而洪小平告诉我，ev¹ 不是一台智能轮椅，“而是一种新的移动出行设备”。这听起来有些抽象，直到我在旧金山遇到了 ev¹ 的用户：双臂残缺，只有两根手指的 Usman；脊椎脆弱的 16岁少女 Ali，和患有多发性硬化症的 Joe。 旧金山试用会现场，Scott、Micah 两位 YouTube 博主和 Usman 坐着 ev¹ 比赛，看谁先到达车道末端。（这张照片里就有两台 Insta360 X 系列全景相机，现场也有好几台大疆 Pocket 3。） 我更多感受到的他们与我们的相同。他们不仅想要基础保障，也想要更好的生命体验。科技爱好者 Usman 戴着 Apple Watch 和 Ray-ban Meta，他曾用 Vision Pro 操控 ev¹；Ali 给轮椅编织了花朵；Joe 那天分享了很多他年轻时旅行和玩帆船的旧照片。他们渴望的不是另一台轮椅，而是减少出行顾虑，能去更多地方的自由。 我自己也两次试用了 ev¹，Copilot+ 模式的驾驶体验对我来说也很有趣。洪小平设想，在大型公园、机场等区域，更多人可能都需要 ev¹ 这样的设备。 本期，这位曾经在伯克利研究纳米材料的物理学博士，分享了他在大疆，如何从研究者转型为业务负责人；以及创业两年半以来，组建团队，开发产品、做减法的历程。 本期访谈的图文版：《大疆览沃前负责人洪小平创业：我做的不是一台电动轮椅》 本期嘉宾：洪小平，Strutt 创始人兼 CEO 本期主播：程曼祺，《晚点 LatePost》科技报道负责人 时间线跳转： -投资人总问：为什么你们不做人形机器人？ 02:07 伯克利物理学博士→组建大疆光电部：奔着量产做激光雷达 08:26 大疆→南方科技大学：新工科教育 & 思考创业，锁定「机器人」方向 14:03 直接做人形机器人和具身“终极形态”，是“有方法、没路径” 18:04 OpenAI 加大投入 LLM 时，已有早期信，具身没到这个状态；识别早期信号的核心是数据积累 22:43 看到“老龄化”去收，就是它了！ 25:13 个人移动设备能获得宝贵的家庭、生活场景数据 -ev¹ 的诞生，它不是电动轮椅 29:28 ev¹ 是泛个人出行设备，它的完整体验 35:07 出行的自由和喜悦，不分健康或残疾、衰老或年轻 41:13 大家更关注 PMF 的 M（需求），但有时 P（产品）做得足够好，M 就能自动打开 43:26 ev¹ 的开发，从做加法到做减法 47:51 观察用户说不出来的需求； 51:19 ev¹ 也是一个 Robot Helper 和机器人平台：可加传感器、执行器、计算单元等配件 56:50 在双滚机上做 200 万圈测试 58:33 “产品真正帮到人”的感觉，很触动 01:00:54 Go to Market 策略：定价、渠道、规模 -什么是一个好团队？大疆怎么又极致，又“舒适”？ 01:03:55 创业，从“定义一个好团队”开始 01:07:25 大疆的“舒适”：技术说话、以结果论英雄、可以专注自己的事 01:12:35 应对未来可能的竞争：品牌、专利布局、团队综合性，本质是团队效率 01:19:33 消费科技公司，在高效 vs 速度上的分布：追觅、Insta360、大疆 01:22:39 为什么大疆到 2019 年才定成文价值观？ 01:24:43 Next Question：跨越鸿沟——ev¹ 这样的产品怎么进入大众市场？ 01:28:06 连点成线：往期推荐 附（播客中提到的部分术语、人物的表达可见图文版，如 VLA、PaLM-E、RT-2、吴景深等，以下摘录文字版中没提及的部分）： 王铭钰：汝原科技创始人，大疆前研发副总裁，主导多款旗舰无人机的工程体系建设。（节目中提到的邀请洪小平加入大疆的港科本科同学） 魏基栋：松灵机器人创始人兼 CEO，大疆 Robomaster 业务的一号员工和联创，2016 年创业；库犸智能割草机即由松灵推出。 拓竹：一家 3D 打印机公司，旗下也有 WorldMaker 3D 模型共享平台；由陶冶创立，他曾任大疆动力系统部门经理、Mavic pro 产品经理、大疆消费级无人机事业部负责人。 Invacare：美国医疗辅助设备公司，以轮椅、助行器等康复产品为主营（节目中提及的已退市的行业公司）。 肖文龙：Strutt 联创，大疆早期动力系统技术负责人。 大疆 Inspire 产品线：定位于“专业级航拍/影视器材”的无人机序列，是航拍行业的主力设备与标杆产品。 张富：香港大学 工程学院机械工程系副教授，研究方向为激光雷达-惯性／视觉融合 SLAM 算法。 激光雷达 SLAM 算法：基于激光雷达点云定位与建图的算法，让机器人在未知环境中自行导航。 相关链接： 晚点聊 120 期：《科创板后再访Insta360刘靖康：这何尝不是一种极限运动！》 晚点聊 118 期：《天生卷王郭人杰：从 97 年的扫地机器人总裁到创业做家庭通用机器人》 晚点聊 87 期：《家里又多了个“怪东西”！与云鲸聊新消费电子品的诞生》 剪辑制作：甜食 本期主播： 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

「从模型驱动到垂直整合：Gaga-1 是第一个产物。」 图注：飞书“智能会议纪要”功能为本次播客生成的概要图。 本期节目由飞书特别支持播出！欢迎大家尝试“智能会议纪要”(https://www.feishu.cn/product/ai-meeting-summary?hideHeader=1&utm_from=latetalk)，功能，点击前文晚点转述链接，可申请 1 个月免费使用。 2024 年初，刚听说曹越开始新一次创业时，我就找他聊过一次。那时他有一个吸引科技报道者的标签：光年之外联创。 今年 10 月的这次正式访谈中，我有点儿理解了为什么王慧文在 2023 年初见了那么多研究者后，会选择曹越来做技术合伙人——曹越是少数在 ChatGPT 之前，预判到大模型热潮的中国研究者。2021 年，他拿下 ICCV 最佳论文后，离开了微软亚研院，加入了国内最早做大模型的机构，智源研究院。 让我稍感意外的是，曹越做研究员时，就格外关注组织与机制；2021 年，在看到 DALL-E 和 CLIP 后，他开始研究 OpenAI 是怎么协作的，这也是他加入智源的原因之一。 这期节目，曹越回顾了他在清华读本科时，如何看到深度学习，那篇 ICCV 最佳论文的诞生；他从研究员到创业者的转变；对 Sora 的观察，以及 Sand.ai 打造新一代模型 Gaga-1 的思考与实践。 通过学习 OpenAI 等全球顶尖公司，更重要的是通过自己的实践和反馈，曹越现在的认知是，要做一个垂直整合的“端到端”的组织，更好平衡模型进展与从需求出发，10 月中旬 Sand.ai 新发布的模型 Gaga-1 就是垂直整合的产物。它聚焦解决人物表演问题，“人物不一致、表演假”，是许多试图使用 AI 的内容制作者之前最大的痛点。 图注：在 Gaga AI 网站 (https://gaga.art/zh/app) 上，现在可体验音画同出、聚焦人物表演能力的视频生成 在技术驱动的 AI 创业时代，一个模型出身的创始人，如何判断趋势，又怎么学习做 CEO？曹越分享了他的探索和体验。 本期嘉宾：曹越，Sand.ai 创始人兼 CEO 本期主播：程曼祺，《晚点 LatePost》科技报道负责人 **本期播客也有视频版，可在抖音、B站、小红书、视频号搜索《晚点 LatePost》观看。* 时间线跳转： -从 ICCV 最佳论文到研究 OpenAI 组织力：设计一个系统，最大化压榨算力 02:08 2014 年转向深度学习 03:37 在微软亚研院学到的-1：关注最重要、且有提升空间的 topic 05:09 Swin Transfomer 的诞生，Transformer 被引入视觉任务的两个阶段 11:15 在微软亚研院学到的-2：判断 topic 还不够，得以足够资源做出极致效果 13:02 CLIP、DALL·E 冲击：OpenAI 不是论文驱动，而是设计一个系统，最大化压榨算力 18:10 从 GPT-3 到 ChatGPT，3 年疫情阻隔使 OpenAI 巨变被忽略 -中国为什么没有出现 OpenAI 这样的组织？王慧文说是“不够富” 21:30 和王慧文、梁文锋聊；他们都在 23 年初遍历国内研究者 26:57 问老王：为什么中国没有出现 OpenAI？——“不够富” 32:54 光年之外的经验：一开始就确立了正确的“找人方法论” 34:36 CEO 容易焦虑，这时可以想想大问题 -“真的了解创业后，突然感觉什么都对了” 37:16 23 年 8 月开始思考创业：视频生成让自己兴奋 40:54 创业前的自我觉察：ambitious 46:59 第一个模型 Magi-1 花了 1 年多：低估了自回归路线的难度 50:23 正在发生的业务窗口是“音画同出” -“Sora 2 是一个端到端的模型，OpenAI 是一个端到端的组织” 52:36 Sora 2 的 3 个特点，第三点最让曹越惊艳 58:23 Sora 2 怎么实现“端到端叙事”的？ 01:03:58 Vibes vs Sora，Meta 是缝合，OpenAI 是整合 -Gaga-1：从需求出发，优先解决人物表演 01:06:53 新模型 Gaga-1 聚焦人物表演，成本大幅下降 01:10:33 用 AI 做短剧，卡点正在人物表演和成本；Sora 的新启发是叙事 01:15:27 需求分析：短剧制作、广告片、C 端斗视频 01:19:42 Sora 能否成为 C 端新平台？曹越的两个判断指标 -垂直整合组织的核心就是：不同背景的人，能对齐上下文 01:23:10 PMF 一直讲，一直难：因为模型和产品的磨合就是要花时间 01:28:07 垂直整合：不同背景的人频繁交流，对齐上下文 01:31:16 再看“模型即产品”：早期产品跟着模型走，现在要互相放大 -成为 CEO 01:38:41 一个“专业”的 CEO 01:42:04 “Gemini 老师”的最大作用是对齐上下文 01:50:27 所有内容的终局都是“叙事” 01:52:29 老王的建议：研究皮克斯商业模式 01:56:06 研究者和 CEO 的“夹角” 01:58:24 最优先级的工作 02:01:01 Next Question：ASI 到来后会怎样 02:03:12 连点成线：往期推荐 相关链接： 图文版：《对话曹越：马尔奖、光年之外、Sand.ai，研究员到 CEO 的十年串起大模型变迁》 晚点聊 136：《Sora新世界 & Lovart 4个月复盘 | 与陈冕聊怎么做垂类Agent|Agent#5》 晚点聊 58：《光年之外联创再出发，与袁进辉聊 AI Infra 到底做什么？》 晚点聊 39：《从美团收购光年之外，聊聊科技公司收并购的操作与故事》 附录： CNN（卷积神经网络）：由 Yann LeCun（杨立昆） 等人在 1989 年提出，用于从图像等网格数据中提取局部特征，是深度学习在计算机视觉领域的基础架构。 Transformer：由 Google Brain 在 2017 年 提出，用“自注意力机制”替代循环结构，实现了高效的并行训练，成为目前大模型的核心架构。 iGPT（Image GPT）：由 OpenAI 在 2020 年提出，将 GPT 语言建模思想用于图像像素预测，验证了 Transformer 可用于视觉生成任务。 ViT（Vision Transformer）：由 Google Research 在 2020 年提出，将图像分割为小块后输入 Transformer，首次在大规模数据上超越 CNN 的图像识别性能。 Swin Transformer：由微软亚洲研究院刘泽、曹越等人在 2021 年提出，通过“层次化窗口注意力”结构改进 ViT，使 Transformer 能高效处理不同尺度的视觉任务。 DALL·E：由 OpenAI 在 2021 年 发布，将 GPT-3 与图像生成结合，可根据文字生成符合语义的图像。 CLIP：由 OpenAI 在 2021 年提出，通过大规模图文对比学习，实现文本与图像的语义对齐，是后续多模态系统的基础模型之一。 Instruct-GPT：由 OpenAI 在 2022 年 发布，通过基于人类反馈的强化学习（RLHF）让 GPT-3 更好理解指令，是 ChatGPT 产品化的重要前提。 剪辑制作：甜食 本期主播： 小红书@曼祺_火柴Q即刻@曼祺_火柴Q ☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆ 欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 这里有更多互动，更多话题讨论。欢迎贡献选题 & 推荐嘉宾。 请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。 关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：