为什么硅谷开始重新定义「AI 记忆」| S10E20

为什么硅谷开始重新定义「AI 记忆」| S10E20

From What's Next｜科技早知道 by 声动活泼

July 8, 2026 · 57 min · Episode 20240434

About this episode

The episode discusses the redefinition of AI memory in Silicon Valley, featuring insights from Clipto.AI's CEO on personal memory systems and the challenges of edge computing.

就在一个多月前，黄仁勋在 Computex 2026 上发布了英伟达 RTX Spark——第一个面向消费级 PC 的 AI 超算芯片，1 Petaflop 算力、128GB 统一内存，能在笔记本本地跑 120B 甚至 200B 参数的大模型。几乎同一时间，苹果 M5 系列也将端侧 AI 推到了前所未有的高度。硬件就位了，但一个老问题依然存在：如果 AI 助理不记得你是谁、不记得你三年前说过什么，再强的算力也只是个聪明的失忆者。 这期节目的嘉宾是 Clipto.AI 的创始人兼 CEO 康洪文（Henry Kang），他在做一款在端侧本地运行的多模态 AI 产品，能读懂你所有的音视频、图片和文档，并在此基础上构建个人记忆系统。我们一起聊了聊大模型做记忆（memory）的天花板在哪里，为什么端侧比云端更适合承载个人记忆；把云上成熟的 AI 架构搬到端侧，都会遇到什么挑战；以及当苹果、谷歌这样的 OS 巨头自己做记忆层（memory layer）时，一家创业公司凭什么不被碾压。 本期人物 康洪文 Henry， Clipto.AI 创始人兼 CEO Yaxian，「科技早知道」主播 时间轴 [02:12] 英伟达 RTX Spark 的突破是什么？ 算力与内存双重突破，让本地跑百亿参数模型成为可能 OpenAI 就是大型机，端侧助理就像个人PC [04:58] 大模型的万亿参数是公域知识的最大似然估计（MLE） 大模型的生态位应是存储世界共识与通识 用万亿参数去做个人知识是“杀鸡用牛刀” 生态中缺一个专门记录和存储个人记忆的 player [09:35] Clipto 在做什么：端侧多模态记忆系统 本地 100% 运行，10 个模型协同将裸数据结构化 上层构建时空对齐的知识记忆系统，支持文本和语音查找 [18:16] 大模型做记忆的三条路径与共同天花板 Context Window、RAG、LoRA 微调都在尝试让模型记住用户 共同问题：都没跳出大模型 MLE 框架，只能提供概率性记忆 无法精确定位到“三年前某天下午和谁聊了什么”这种事实记忆 [22:14] 数据不等于记忆：坐在金矿上的穷人 每个人都是 data rich 但 memory poor，数据没有被结构化就不叫记忆 只有可查找、可复用、可执行的记忆才是真正的记忆 [36:58] 云上架构搬到端侧：垂直整合怎么做？ 带着云上思维框架看端侧“完全不 work” 从芯片算子优化到算力调度到模型优化到 Agent 搭建，每一步都需要攻克 [41:48] Memory layer 苹果和 Google 能做吗？创业公司的机会在哪里？ 苹果是硬件设备公司基因，更应搭建好 macOS 生态与第三方合作 集齐“芯片+算力+模型+独立产品运营”，大公司极难发生 谷歌、Meta 诞生第一天都是应用公司，终局是…

People in this episode

Host: Yaxian

Guest: 康洪文

Topics covered

Keywords

Mentioned in this episode

Organizations: Clipto.AI, 英伟达, 苹果, 谷歌, Meta

Products: RTX Spark, M5

More episodes of What's Next｜科技早知道

Explore listener stats, chart rankings, contacts and more on the What's Next｜科技早知道 podcast page.