# 锐评国模与 Neo Lab，畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾

42章经 · 2026-11-07

<https://42.podhood.com/34fc67f3-14c5-4f57-ba42-ecde94f5273b>

本期对谈 Mind Lab 联合创始人兼首席科学家马骁腾（Pony），围绕他先后参与 Fellou 浏览器与 Mind Lab 两次颇具争议的创业，以及强化学习、Neo Lab 与 RLaaS 展开深聊。马骁腾认为创业是最符合 RL loop 的生活方式，他从强化学习中悟出三件事：探索与利用的平衡让他成为「90 分主义者」、policy 与 value 必须一致教会他知行合一、折扣因子提醒他既要远视也要有好的计划。在模型竞争上，他判断 1T 以下模型的预训练与后训练已是标准 recipe，大厂因账单压力和《The Cost of Staying》式的向心力在模型技术上会集体失败，但商业上靠置换算力仍能盈利；他对国模短期悲观、长期乐观，显著看好 DeepSeek 的模型与 Infra co-design（encoder-decoder 分离），也认可智谱务实、Kimi 喜欢创新，批评 MinMax 信仰不够坚定、先做营收后做模型搞反了顺序。他定义 Neo Lab 的核心是 research product co-design 且必须形成商业闭环，认为 RSI 目前完全是宣传口号，因为写作等能力无法脱离人类偏好自我迭代，企业私有数据也无法被公开模型获取。谈到 RLaaS，他解释客户需有自己的 benchmark，后训练通过提升纵轴表现与降本两条斩杀线创造价值，前沿模型一次迭代约几万元、整项目可控制在人民币几十万到 100 万左右。他还分享了做 LoRA 的 scale up、scale down、scale out 历程（实现一个 base model 支撑 100 万个 LoRA 推理）、对持续学习与用长期记忆储存 taste 的关注，以及不担心被全知全能模型吃掉、要为百花齐放的多模型世界奋斗的信念。

## Questions this episode answers

### 马骁腾认为做强化学习（RL）给他带来了哪些人生哲学？

马骁腾说 RL 教给他三件事：一是探索与利用的平衡，让他成为「90 分主义者」，做到 90 分就花剩余精力去探索新事物；二是 policy 和 value 必须一致，即知行合一，不断用实践修正价值观；三是折扣因子带来的长期主义，目光要远但计划要合理。

[3:46](https://42.podhood.com/34fc67f3-14c5-4f57-ba42-ecde94f5273b?t=226000)

### 到底该怎么定义 Neo Lab？为什么很多 Neo Lab 被人反感？

马骁腾认为 Neo Lab 不是传统只发论文、申基金的 Lab，而是实打实做能被商业化的研究。他们内部强调 Research Product Code Design，以研究是否真的有用为标准。他指出很多自称 Neo Lab 的公司没想明白自己拿着投资人的钱要交付商业价值，没有商业化闭环就不算 Neo Lab。

[35:32](https://42.podhood.com/34fc67f3-14c5-4f57-ba42-ecde94f5273b?t=2132000)

### RLaaS 帮客户训一次模型大概要花多少钱？

马骁腾说行业定价基本都按 token 计算，与算力消耗直接相关。在最前沿的模型上训一次迭代大概几万块钱，一个项目跑下来经验上可以控制在人民币的几十万到 100 万左右，比如在 DeepSeek、Vicepro 和 JAM 5.3 这样的模型上。他认为对融到 B 轮的公司来说拿出 10 万美金做这件事非常值得。

[51:54](https://42.podhood.com/34fc67f3-14c5-4f57-ba42-ecde94f5273b?t=3114000)

### Mind Lab 做 LoRA 的 scale up、scale down、scale out 是什么思路？

马骁腾说他们 25 年 3 月因卡少开始做 DeepSeek 的 LoRA 训练，后来 follow Tinker 做了自己的 service 叫 Mint。scale up 是在更大模型上训练以获得更强智能；scale down 是把每个 LoRA 做得更小、成本更低、迭代更快；scale out 则是 4 月做了支持 100 万个 LoRA 挂在一个 base model 上推理的系统，类似人类基因差异很小却表现各异。

[54:58](https://42.podhood.com/34fc67f3-14c5-4f57-ba42-ecde94f5273b?t=3298000)

## Key moments

- **[0:00] 开场**
- **[0:54] 争议往事**
  - [1:22] 马骁腾回应争议：Fellou 和 Macaron 的实质都是做超大模型的 RL 后训练
- **[3:02] RL人生哲学**
  - [3:06] 马骁腾：限制模型能力的是 exploration 和表征能力，创业是最符合 RL loop 的生活方式
  - [3:52] 马骁腾从 RL 学到的第一课：不做随机探索就永远困在局部最优，所以我是个 90 分主义者
  - [5:33] 马骁腾：RL 的 policy 与 value 必须一致，教我要做一个知行合一的人
  - [7:05] 马骁腾用 RL 折扣因子谈长期主义：discount 太小短视、太大不收敛，人生规划同理
  - [8:35] 马骁腾：创业能不停 collect real experience，大厂只能拿到局部信息、无法做 exploration
- **[10:06] 训模底气**
  - [10:06] 没在模型厂待过凭什么能训好模型？马骁腾：读博时就在 1 万核 CPU 加 100 张 V100 上做大规模 RL 训练
  - [13:24] 马骁腾读博时的绝望时刻：叉院同学硕士毕业发 30 篇论文，答辩 30 页 PPT 每页念一遍标题
  - [15:29] 马骁腾：RL 当年不受待见是后验说法，我们就是导师接项目就做 RL，发论文非常痛苦
  - [16:20] 马骁腾评国内 RL 困境：缺少熔炉式环境，立山头、贴标签现象比较多
- **[17:16] 中美格局**
  - [17:16] 马骁腾评中美模型差距：OpenAI 和 Anthropic 明显领先，1T 以下已是标准 recipe 没有秘密
  - [18:35] 马骁腾预判国模：短期悲观争不了算力，长期乐观，国产算力明年会变成能用的状态
  - [20:18] 马骁腾：Anthropic 已在暴力收购公司获取未公开数据，数据用完后真正的数据在企业和真实场景里
- **[22:21] 大厂困局**
  - [22:33] 大厂 vs 创业公司：马骁腾引《The Cost of Staying》，大厂有原生向心力做不出突破性创新，最后可能集体失败
  - [26:25] 思想实验：从各家模型厂抽 90 分的人组新公司，半年能追平 Kimi 智谱吗？马骁腾说能但成本不划算
- **[28:28] 国模突围**
  - [28:35] 马骁腾：国模接下来拼 Infra 与模型的 co-design，DeepSeek 的 encoder-decoder 分离就是为国产卡设计
  - [30:45] 马骁腾锐评海外模型：最看好 OpenAI，因其新模型调整了 harness 和 reasoning 结构，Anthropic 未跟进
  - [32:11] 马骁腾锐评国模：DeepSeek 赢在 Infra 智慧，智谱最务实，Kimi 最 fancy，MinMax 信仰不够坚定
  - [33:37] 马骁腾评 MinMax 搞反了顺序：先做营收追求上市，而 DeepSeek 模型做好后做产品是顺水推舟
  - [34:48] 马骁腾解 Seed 的成功：纯粹因为数据好，而 OpenAI 砍掉 Sora all in 语言模型是关键决策对比
- **[35:32] Neo Lab之辩**
  - [35:32] 马骁腾定义 Neo Lab：不做商业化闭环的都算不上 Neo Lab，我们的 slogan 是 Research Product Co-Design
  - [37:49] 马骁腾：所有 researcher 都在犯一个致命错误——善于造锤子，喜欢拿锤子找钉子
  - [39:48] 先做模型还是先做产品？马骁腾：先做产品原型推向市场但不投流，collect real data 再做实验
- **[41:53] RSI冷思考**
  - [42:00] 马骁腾：RSI 现在完全就是个宣传口号，本质是在高速可迭代的 Infra 上做自动化数据构建 pipeline
  - [43:12] 马骁腾不信完全的 RSI：reward 设计很难脱离人，Anthropic 都拉不回模型写作能力的退化
- **[44:21] RLaaS实践**
  - [44:21] 马骁腾：即使实现 RSI 也没解决数据从哪来，机密制药数据 AI 在公开网络根本获取不到
  - [45:15] RLaaS 是不是外包？马骁腾：客户场景里有公开语料拿不到的真实数据，这才是现在最重要的研究问题
  - [45:59] 为什么美国中间层公司都在自己做模型？马骁腾：模型即服务即产品，马鞍子没人记得住
  - [47:54] 马骁腾：中国做 RLaaS 卡不在算力，后训练不需要最新卡，难在客户接受服务的意识不够
  - [48:40] RLaaS 客户画像：马骁腾要求客户有自己的 benchmark，已实现 PMF 的创业公司是最高质量客户
  - [49:41] 马骁腾：头部公司没 get 到 post training 的价值，大概率整个行业都不需要 post training
- **[54:58] LoRA心路**
  - [54:58] 马骁腾讲 LoRA 心路历程：从 4 台 H800 起步，到 scale up、scale down、scale out 训百万个 LoRA
  - [56:59] 马骁腾的 LoRA 类比：人与人基因差异不到千分之五，LoRA 的小差异造就模型完全不同的 behavior
- **[57:21] 终局之问**
  - [57:21] 马骁腾最关心 continual learning：模型缺一个储存 taste 的地方，读 300 篇论文会悟但模型不会
  - [1:00:04] 马骁腾回击 Anthropic 看不上 personal agent：它数据采购的人一定会采购大量 personal agent 数据
  - [1:01:07] 马骁腾：Anthropic 靠 Claude Code 领先 OpenAI 半年积累数据才在 coding 上领先，产品是获取真实数据的最好方式
  - [1:01:35] 马骁腾不怕被大模型吃掉：要么全知全能 AI 重洗世界，要么百花齐放，我要为 colorful 的世界奋斗

## Speakers

- **曲凯** (host)
- **马骁腾** (guest)

## Topics

模型, AI创业

## Mentioned

Anthropic (company), DeepSeek (company), Fellou (company), Kimi (company), MinMax (company), Mind Lab (company), OpenAI (company), Seed (company), 智谱 (company), Claude Code (product), Macaron (product), Muse (product), Tinker (product)

## Transcript

### 开场

There's something there.

**曲凯** [0:19]
我们今天很开心请到了 Mind Lab 的联创和首席科学家肖腾 。

**马骁腾** [0:23]
哈喽大家好 ， 我是 Mind Lab 的联创和首席科学家马骁腾 ， 然后大家也可以叫我 Pony。 我是 17 年在清华自动化系直博 ， 然后 23 年毕业 ， 然后继续在清华自动化系做博后 。24 年和谢扬一起创办了 Fellou 浏览器 ， 然后 25 年 10 月的时候和我的两位好朋友陈凯杰和 Andrew 一起创办了 Mind Lab。

现在我一直都是在做强化学习和后训练相关的工作 ， 然后今天也非常开心可以来到 42 章经见到曲凯老师本人。

### 争议往事

**曲凯** [0:55]
好的 ， 哈哈哈 ， 非常官方 。 哈哈哈 ， 对 ， 你今天提到了谢扬这个点 ， 对吧 ？ 就是你看你待过这两家公司 ， 都还算是有点争议的 。

我不知道你怎么看这些争议啊什么的 。其实我觉得大家对于 Mind Lab 的争议在于之前马卡龙那一段 ， 对吧 ？

其实你们现在的业务已经跟当时很不一样了 。 这也是为什么我们今天会有这个播客的原因之一嘛 。

可以先简单讲一下大家的这些争议和你的 ， 你或者你们内部的一些看法 。

**马骁腾** [1:22]
嗯 ， 首先我感觉就是 ， 呃 ，有争议是好的 。 就是创业肯定是不要回避大家的讨论跟争议嘛 。 就是只有有人在讨论 ， 才说明就是被大家看见了 。

我觉得我无论是从做 Fellou 还是加入 Macaron 做 Mind Lab，其实我想做的事情一直都是关于模型训练 ， 然后关于 post-training 的一些事情 。

然后因为我自己就是学强化学习嘛 ， 然后我非常理解 RL， 然后我一直在找可能能通过 RL 去做的一些真正有用的一些事情 。

所以在 Fellou 的时候 ， 我们是希望可以通过浏览器作为一个收集数据的一个途径 ， 然后去做关于 GUI 的一些 post-training。 但是后面发现 ，在一个应用公司是很难去做一些 post-training 的 ，因为你的资源很少 ， 然后你要不停的去追逐最好的这个模型的表现 。

所以后来我离开了 Fellou， 加入了 Mind Lab， 创建了 Mind Lab， 然后去做后训练的 post-training lab。 对我来说 ， 嗯 ， 无论它表征出来是马卡龙这样形式的 APP， 还是嗯 ， 我们现在在做的 RL service 的一些 to be 的业务 ， 它的实质都是做超大的这个模型的 RL， 然后来让它在某一个区域的这个 performance 上面去有效果的提升 。

我更希望可以把 post-training 理解成有点像互联网时代的推荐系统一样 ， 它是一个 fundamental 的技术 。 至于它上面这个长出来的是西瓜视频还是抖音还是今日头条 ， 我觉得可能不是一个现阶段需要特别去考虑的事情 。

然后尤其是我作为一个 researcher， 我不是特别关心就是最后表现出来的样子是什么样的 。

**曲凯** [2:54]
嗯哼 ， 所以你追求的还是说模型训练这个效果本身 ， 它最后 deliver 结果怎么样啊之类的 。

**马骁腾** [3:00]
对对对对对 。

**曲凯** [3:00]
你的选择其实也都是奔这个目标 ， 所以我特别好奇你为什么没有首选去 AI Lab。

### RL人生哲学

**马骁腾** [3:06]
嗯 ，因为我觉得首先我自己是非常喜欢创业的人。 就我认为创业是一种生活方式 ， 这个也和我自己做很多 RL 的 research 有关 。

就是做多 RL research 你就发现 ， 就是限制这个模型能力的完全是 exploration 和它的表征能力 ， 嗯 ， 这两件事 。

**曲凯** [3:24]
这个能不能再讲细一点 ， 就是大家该怎么理解这两件事 。

**马骁腾** [3:27]
嗯 ， 就是 RL 里面有一些非常基本的概念 ， 然后这些概念都现在已经变成了我一种人生的哲学 ，在指导我做我的各种人生的规划 。

**曲凯** [3:37]
对 ， 我们之前跟吴毅录过一期播客 ， 那期播客他里面就提到了一句话 ， 然后大家也特别喜欢 ， 就是人生本身就是一场强化学习 。

**马骁腾** [3:44]
是的是的是的 。 然后我觉得在大的 RL process 里面 ， 然后我 learn 到了三个对我来说非常有帮助的事情 。

第一个就是 exploration 跟 exploitation， 就是这个探索与利用 ，其实是 RL 非常入门级的一个概念 。 就是所有 RL 能 work 的算法里面都有探索和利用的平衡 。

很早期的时候 ， 这个我们做 Atari 小游戏的时候 ， 它就是随机选 10% 的随机动作 。 不要看这 10% 的随机动作是看上去非常低效的一种选择 ， 就是如果你不做随机这个动作的探索 ， 你是无法达到这个最优解的 。

这里面有很多的 proof， 包括今天我们在训大模型的时候 ， 我们也会控制模型的熵 。 很多情况下就是训得过猛了 ， 然后它的熵探索了 ， 然后它的泛化性就会变差 。

这也是 exploration 的一种体现 。 所以研究里面我就看到了必须要有一部分的 exploration。 那我觉得我的生活里面其实也是一样 ， 就是如果我不跳出我的既定的思维去做一些我自己觉得有意义的一些事情 ， 我就永远会困在那个 lo-lo-loop optimal 里面去 。

所以我一直都是一个 90 分主义者 ， 就是做到 90 分我就会觉得 OK， 我应该去再花剩下 10% 的精力去 explore something new。

**曲凯** [4:52]
那你在模型训练跟强化学习这个事上， 你自己定义你是 90 分还是多少分 ？

**马骁腾** [4:57]
嗯 ， 我觉得现在显然我们应该是 90 分的一个状态吧 。 就我觉得很多东西我们还没有做到最好的一个状态 。

**曲凯** [5:04]
对 ，但这里还是有矛盾点的嘛 ， 对吧 ？ 我可以理解你个人生活当中是一个 90 分的状态 ，但是在创业这件事上， 你还是追求在某个点上能做到 100 分甚至更高的分数 。

**马骁腾** [5:15]
我觉得你说的非常对 。 这就是为什么我会跟 Andrew 跟凯杰一起来创业 ， 就是我 do the part of exploration， 然后他们来去一起让整个 team 变成一个 100 分的状态 。

**曲凯** [5:25]
OK。

**马骁腾** [5:25]
某种程度上弥补了我在做 research 探索上的这个商业化的不足吧 。

**曲凯** [5:30]
明白明白 ， 对对 ， 这是第一个点 。 还有两个点 。

**马骁腾** [5:33]
对 ， 第二个点就是知行合一 。RL 里面其实是有这个 policy 和 value， 就是策略和值 。 比如说我们在做一个决策的时候 ， 然后它可能有两个逻辑 。

第一个逻辑呢 ，是我知道应该选哪个东西 ， 然后它选择的概率是什么 。 第二个逻辑是它够好 ， 比如说它这个 A 选项是个 5 分 ， 然后 B 选项是个 3 分 ， 这个时候我可能这个选 A 选项 ， 对吧 ？

那选择什么东西的这个策略的概率和我们给它做的评分这个事 ， 它是对偶的 。 就是说你知道它的评分以后， 你就知道它的概率是多少 。

这也对应着就是 RL 的两种不同的算法跟流派吧 ， 算是一个就是 policy iteration， 一个就是 value iteration。 它们都可以得到很好的这个策略的结果 。

但是啊 ， 无论是 policy iteration 还是 value iteration， 它里面都一定要有一个要求 ， 就是你的值和你的策略要是一致的 。

那如果它要是不是一致的 ， 那一定是有一个东西做错了 。 要不然就是你的策略更新晚了 ， 对吧 ？

要不然就是你的值更新的不够 。 所以就是 RL 教给我应该成为一个知行合一的人， 就是我应该不停的在 update 我自己的价值观 ， 然后我自己的判断 。

然后当我做出这个判断的时候 ， 我就一定要去 collect experience， 然后我一定要去做一些事情 ， 然后去看我的这个判断是否是正确的 ， 反过来再去修正我的价值观 。其实就是一种这个实践论嘛 。

**曲凯** [6:54]
嗯哼 。

**马骁腾** [6:55]
然后第三个其实就是长期主义 。 这也是我觉得现在目前的强化学习里最受诟病的一点 。 就是目前的大模型的这个训练是没有长期主义的 。

我们都是在用 GRPO 去训练 ，GRPO 是一个单步的这个决策 ， 就是问一个问题 ， 然后它就回答一次 ， 然后无论它是 agentic 的还是只是一个长的 reasoning 任务 ， 它就是只回答一次 。

实际的我们的人生是一个 single path， 它是一个非常非常长的 。在 RL 的这个基础的理论里面 ，有一个概念叫做这个折扣因子 。

它就是说 ， 嗯 ， 你要把你非常非常远的这个 reward 做一个 discount， 算到当前的 reward 里面去 。 每一步这个 discount 的 reward 加在一起 ， 就是你现在对这个事的价值判断 。

那么比如说可能我明天发生的事 ， 我就肯定是我最重视的这个事情 ， 对吧 ？ 但是 10 年以后发生的事情 ， 那就有点没谱 。

那我给它一些 discount， 那这个 discount 呢 ， 它就决定了这个 agent 它的视野 。其实它 somehow 可以理解成是时间分之一的这样一个概念 。

如果这个 discount 是 0.99， 那大概就是我的 time present 就是 100 这样子 ， 然后未来看未来的 100 步 。 这个 discount 就是在 RL 里面 ， 你会发现它不能太大也不能太小 ， 然后如果太小 ， 那就很短视 ， 它看不到未来会发生什么 ， 对吧 ？

然后如果它太大 ， 你会发现它不收敛 ， 它一直震荡 ，因为未来有很多这个事情是很 noise 的 ， 然后它就不收敛 。

这个也指导我 ， 就是要有一个比较远视的目光 ，但是可能你要有一个好的 plan。 所以不去 AI Lab 就是我觉得我需要一些 exploration， 然后我觉得我希望的人生是一个创业状态的人生 。

创业有非常多的好处 ， 它是最 fit RL 这个 loop 的 ，因为它可以不停的 collect real experience， 然后你在一个大厂的环境下面 ，其实拿到的不是全部的信息 ， 你拿到只是一个局部的信息 。

这个时候是不利于你去做你 value 和你的这个 policy 的更新的 。 然后同时你在大厂显然也没有办法做 exploration， 你只能做一个比较 local 的事情 。

所以我一直把创业当成一种生活方式 ，而不是当成一种 towards 这个目标 ， 我一定要干成什么事情 。 这个过程中我很享受这个带来的快乐 。

**曲凯** [9:05]
哎 ，但我再想一件事 ， 就是你看整个 AI， 包括像智谱啊 ，Kimi 等等这些公司 ，其实它成立也就三四年的时间嘛 。

嗯 ， 那个时候你应该在读什么博二左右 。

**马骁腾** [9:14]
呃 ， 那没有 ， 智谱成立的时候我应该也博三博四了 。 对 ，Kimi 成立的时候我应该博士最后一年 。

**曲凯** [9:23]
对 ， 所以据我了解 ， 你在过程中其实也没有去这些公司实习啊什么的嘛 ，是吧 ？

**马骁腾** [9:28]
对 ， 我觉得这个事情就是一个反过来的 ， 就是我已经我不太看就是我在短期的 value 是什么 ， 然后我首先决定就是我的人生的 plan， 就是第一选择可能是成为一个创业者 。

然后其实我在这个过程里面是尝试过去找教职 ， 然后成为一个教授 。 当教授其实原因也很简单 ， 就是第一是我发了很多论文 ， 然后第二是我很喜欢跟学生打交道 ， 帮助一个 junior 的学生 ， 然后他探索出来很好的一些成果的这样的感觉 。

啊 ，但我发现就是当 professor 的大部分时间都不是在处理这些事情 ， 都是在处理一些基金啊 ，在处理一些比较枯燥的事情 。

所以我后来就放弃了这个路 ， 然后我就选择了自己创业 。

### 训模底气

**曲凯** [10:06]
嗯哼 ， 然后我觉得大家对于能训模型的 researcher， 大家一般会觉得说它应该是出自于某一个现存的 AI Lab， 至少在里面做过 。

但你没有这些经历的话 ， 市场上其实是对你的认可啊 ， 口碑什么都还挺好的 ， 对吧 ？ 就包括你们做的模型其实也还挺好的 。

你觉得这个来自于什么 ？ 就为什么你没有真正的去在这些厂子里面训过模型 ，但是仍然你能做得很好 ？

**马骁腾** [10:31]
首先我肯定不知道 ，因为我没在厂子里面训过模型 。 哈哈哈 ， 然后但是我觉得就是我是有一些在更大集群规模上做模型的经验 ， 这个事情也源自于我痛苦的读博经历 。在我读博期间 ， 我导师让我去做了一个 5,000 万的一个比较大的 project， 大概在 18 年开始 。

那个时候才刚刚有 OpenAI， 然后当时是希望可以在一个呃 ，有 1 万核 CPU 和 100 张 V100 的这个集群上面去做一个大型的对战式的训练 。

我其实很早就了解整个 RL 训练的全 pipeline， 然后包括 Infa 的这些东西 。 那个时候 Ray 在这个 0.2、0.3 的版本 ， 然后 PyTorch 也是在这个 0.3、0.4 的那个非常早期的版本 。

我那个时候就是在用 Ray 啊 ，K8s 这些东西去做大规模集群的训练 。 这是第一 。 然后第二 ， 我感觉虽然说大的模型训练它会带来一些新的挑战 ，但是它的本质其实跟我在读博的时候做的事情完全没有变化 。

就是我也是每天在面对 reward hacking 的问题 ， 然后也是在面对这个怎么去做更好的 simulator， 然后怎么去设计各种各样的 reward 跟 benchmark。

嗯 ， 只不过是网络变得更大了 ， 然后它的表征能力变得更强了 ， 做实验变得更贵了而已 。

**曲凯** [11:50]
哎 ， 你觉得你自己跟别人比有什么特别的学习方法吗 ？

**马骁腾** [11:54]
嗯 ，其实我不是那种特别典型的那种 nerd， 就是像竞赛出身或者是怎么样 ，但我觉得我自己感觉我自己的这个泛化能力比较强 ， 然后通用性比较强 。

我对各种东西都非常感兴趣 ， 然后我喜欢在各种的事情上面做一些尝试 ， 这也跟我那个 90 分的哲学比较有关系 。

所以我其实在博士期间 ， 我阴差阳错的做了非常多的 research 的话题 ， 就是离线强化学习啊 ， 多针段体强化学习 ， 这些比较现在是 traditional RL 了 ， 就是现在是经典的 RL 了 。

然后也做过那种非常老那种 tabular 的 RL， 呃 ， 只有在影印版的那种六七十年代的书里面才能看到的各种 Markovlin 的一些性质啊什么的 ， 这种 survey 我也做过 。

然后我还做过一些现代的正各种 bond 的 RL， 然后也做过一些实操性的一些项目 。 所以我觉得因为我在 RL 的这个做的 project 比较多 ， 然后我也跟很多不同的老师去打过一些交道 ， 就是很多不同老师 ，他带来很多不同的 insight。

我发现他们的 insight 其实汇总在一起 ，其实是有一个可能更 meta 的一个抽象 ， 然后这个东西对我帮助非常大 。

**曲凯** [13:03]
对 ， 这个就是我刚才听你说你那个 90、10 分的理论的时候 ， 我想讲其实它就是我一直觉得说你在某个领域 ， 比如说真的做到 90 分以后再往上涨 ，其实那个难度和边际效应都很低 。

但是你可能在其他领域做个 20 分 ， 你突然发现那 20 分里面某个点可以用在这个里面 ， 对吧 ？ 就交叉起来 ，其实它就可能是一个加法甚至乘法的一个关系 。

**马骁腾** [13:24]
是的是的 ， 我觉得在我读博的时候 ， 我有一段时间非常绝望 。 那段时间就是我刚到插院去 visit， 插院的同学都非常的厉害 。

我们最后一个同学在硕士毕业的时候发了 30 篇论文 ，他只有 30 分钟答辩时间 ， 做了 30 页 PPT， 每页 PPT 讲一篇论文 ， 念了一遍标题就过去了 ， 非常非常厉害 。他现在在干嘛 ？

他现在是清华大学的教授 。

**曲凯** [13:47]
OK， 哈哈哈 ， 合理 。

**马骁腾** [13:48]
嗯 ， 对 ， 非常非常卷 ， 呃 ， 压力非常大 。 我去找张春杰老师 ， 我说我感觉我做不出比他们更好的 research， 然后我也很难找到一个角度去做的比他们更好 。他说因为每个人的这个经历是不一样的 ，因为你有不同的经历 ， 所以你会有一些不同的想法 ， 这就是 research 的魅力 。

不是说这个人聪明他就能做出来所有的 research，他一定是因为他之前做了一些什么事情 ， 就是对他有所启发 ， 然后他才能做出来新的东西 。

然后我也带了这种信念 ， 就是回到我的一些研究里面 ， 我发现确实因为我搞东西比较杂 ， 然后我经常会从一些奇奇怪怪的地方找到一些启发 ， 然后再应用到另一个领域 。

然后包括我我自己非常满意的一个离线强化学习的工作 ， 就是受我当时很早做 risk sensitive RL 的启发 ， 就是风险敏感强化学习的启发 。

后来就是当时那个工作跟 4G 流言那个工作做的非常一样 。 我当时觉得其实是对我自己很大的一个鼓舞 ， 就是其实因为你的经历不一样 ， 所以你你能做出的事情也不一样 。

这个也影响了为什么我们现在做的这些 posting 的事情 ，因为你的经历是能塑造你的 。 那么 AI 的经历 ， 它塑造出来的只是一个单独的 AI， 它不是一个 diverse 的 AI， 这个可能不是一个我想做的事情 。

我希望它是多样的 。

**曲凯** [15:03]
嗯 ， 哎 ，但你刚才聊这一堆其实还都是在 RL 里面 。 我还蛮好奇一个点 ， 就是你看我们前两年也跟很多做 RL 的人聊 ， 然后尤其是做的好的人， 那这些人他都会提到一个点 ，他说他在当时早年选择的时候 ，其实这个东西不是一个大家这个这么受待见的一个事情 ， 对吧 ？

他们其实经历了很长一段时间的一个领域的一个低谷期 ， 可能这几年 RL 才又火起来 。 所以你当时是不是会不会也有这么一个感受 ？

然后以及如果是这样的话 ， 你为什么始终持续在 RL 这个领域里面做很多东西 ？

**马骁腾** [15:34]
我觉得这个显然是他们后验的来说这个话 ， 那个时候我们哪知道它不火呀 ， 我们就是进入博士生 ， 对吧 ？

小白 ， 然后导师让做什么做什么 ， 然后老师接个项目就做 RL， 我们就做 RL。 好处是特别有意思 ， 就是剩下人都在搞什么 CV， 各种什么 CN， 我一直感觉那些东西 somehow 就比较 tricky， 对吧 ？

你改一下网络结果跑一下， 然后那 RL 就是打游戏嘛 ， 谁不喜欢打游戏呢 ？ 然后训一个这个这个小车能跑了 ， 然后你训一个这个小人能跑了 ， 你感觉很有意思 。

挑战主要是像你说的 ， 就是那个时候因为 RL 不受待见 ， 就是我们能发出去的论文非常非常少 。

嗯 ， 确实在发论文上就是非常的痛苦 。

**曲凯** [16:14]
嗯 ，不然你现在可能就已经在当教授了 。

**马骁腾** [16:17]
那那那也不是 ， 这个这是两个事情 。

**曲凯** [16:20]
嗯 ， 还有一直有一种说法是说国内的 RL 的水平其实一直没有跟上啊 ， 就是国内真正 RL 做得好的人比海外要少很多 。

我不知道你觉得这个是一个客观的事实吗 ？ 还是什么 ？

**马骁腾** [16:32]
嗯 ，general 来说 ， 可能在各领域最 top 的人都是相对比较少的 ，但国内还是有非常多非常优秀的 RL 的一些 researcher。

现在后验的来看 ， 可能在硅谷这些做 RL 的 researcher，他可以更早的去 involve 在 language model 的 training 里面 ， 比如说像 John Schumer， 就是他就是 PPO 的这个发明的人， 对吧 ？

然后他就在 OpenAI，OpenAI 一直都是做 RL 起来的 ， 然后国内可能缺少相对比较熔炉式的这个环境 ， 然后立山头的现象比较多 ， 就是大家经常会贴个标签 ， 就是说啊你就是做 RL 的 ， 你就是做 CV 的 ，但我觉得其实大家做的东西都一样 ， 对吧 ？

就是把一些知识然后训到一个模型里面去 ， 本质没有什么区别 ， 不同的领域也可以换着用 。

### 中美格局

**曲凯** [17:16]
所以你觉得现在整体中美两边的模型的进展是怎么样的 ？

**马骁腾** [17:20]
整体的话 ， 美国肯定是 OA 是非常非常领先的 ， 然后他们领先的点就是更早的去做了数据 ， 然后更早的去做了大规模的强化学习 ，而且卡非常多 。

之后可能是国内这种比较 top 的一些大厂 ， 再往后可能现在也有一些像包括 Meta 呀 ， 然后包括呃 Mistral 就是也追赶上来 。

整体我觉得在 1T 以下的模型的预训练 ， 包括后训练已经变成了一个 standard recipe， 只要给我卡我都能做 ， 这个没有什么秘密 ， 对吧 ？

然后大家都知道怎么做 ， 更多的大家的这个精力都是放在怎么去 skill 更多的数据 ， 然后怎么去做更高效的模型的设计 ， 然后让它能去 skill 到更大的规模上面去 。

我的了解是可能 OpenAI 和 Anthropic 还是在这个事上有非常明显的领先的 。

**曲凯** [18:11]
对 ， 我的感受是过去几年其实就是国内通过各种方法已经追上很多了 。 嗯 ，但是最近呢 ，因为各种 5.5 extra 什么的发了以后， 我似乎感觉这个差距又被拉开了 。

而且我我一直在想 ， 包括你刚才提的 ， 对吧 ？ 如果后面大家去卷更多的参数 ， 然后需要更多的卡 ， 那是不是国内还是持续的会有个劣势 ？

那后面再要怎么追 ？

**马骁腾** [18:35]
我觉得这个事情肯定是短期悲观 ， 长期乐观的 ， 这个短期悲观就是因为争不了了嘛 ， 争不了了 。

**曲凯** [18:41]
对 ， 你这个也是最近新出现的事情嘛 ， 就是防争这个大家做的越来越好了 。

**马骁腾** [18:45]
对对对 ， 然后那争不了了以后， 显然这个速度就会 slow down，但我觉得长期还是比较乐观的 ，因为在这个里面没有什么特别核心的技术发生变化 ， 然后大家还是在原来的这个既定的范式下面 。

然后中国有两个可能会追上的点 ， 一个是国产算力 ， 我觉得在明年虽然就是肯定还是说和最领先的这个 N 卡要差一截 ，但是会变成一个能用的状态 ， 会极大的缓解现在的这个局面 。

第二就是中国人组织数据 operation 的能力要远远的强于美国 ， 然后包括甚至美国的很多大厂 ，其实归根溯源也是中国人在帮他们去做这些数据 。

所以就是我不认为就是在这个事上面中国人是落后的 。 比较危险的是 OpenAI 已经可能在采用一些相对比较新的一些范式 ， 它可以做到更长的这种 reasoning， 它可以这个 reasoning 一周 ， 对吧 ？

然后去做一些像菲尔斯奖级别的这样的一些数学的证明 ， 这个里面可能是有一些范式的变化的 。 然后如果这个范式的变化没有被突破的话 ， 我觉得会比较危险 。

然后但是你看的是产业 ， 那我觉得你不需要太担心 ，因为现在的这个大部分的产业应用基本上都是发生在 1T 以下 ， 然后基本最常用的其实是 flash， 对吧 ？

就是这个各种 flash， 然后在 300B 到 500B 这样一个范围内 ， 然后它能解决绝大多数的这个办公性的任务 。

呃 ， 如果你关注的是像制药这样的一些最 frontier 的这样的一些事情 ， 那确实和美国是会有一些差距的 。

**曲凯** [20:18]
嗯 ， 哎 ，但从数据量这个角度来讲 ， 传闻是美国那边在追求 30T 的这个量级嘛 ， 对吧 ？ 嗯 ， 这些数据到底是从哪来的呢 ？

我其实一直有这个疑问 ，因为很早大家就觉得说 ， 哎 ， 数据是不是不够用了呀 ？ 是不是已经用完了呀 ？

什么的 。

**马骁腾** [20:34]
嗯 ， 数据肯定是不够用 ， 然后所谓已经用完了 ， 就是互联网的这些公开数据已经被用完了 。

然后现在其实大部分预训练乃至中训练这个尺度下面的数据 ， 都来自于之前做的数据 ， 然后再回来蒸馏 ， 然后无论是蒸闭源的模型 ， 还是它这个模型自己之前产生的轨迹 ， 然后再蒸回去 。

现在大家在追逐的其实更多还是在一些专用的领域上， 比如说明显 GPU 优化了 Blender 的表现 ， 对吧 ？ 那我相信可能在后面的国内的版本里面 ， 大家也会快速追上 ，因为构造一批这样的数据虽然比较困难 ，但是不是我们做不了的一些事情 。

让人感到担忧的是 ，Anthropic 已经在做一些暴力的这个收购性的行为来去获得数据了 。 那这样它收购了一些公司以后， 它会获得一些这个公司里面绝对没有被公开的这些数据 ，但这些数据的价值到底有多大 ，其实我觉得 Anthropic 它自己也不知道 。

但我觉得就是能看出来 ， 就是 Anthropic 在这些事情上的这个绝对的决心 。 所以我感觉那个逻辑是没变的 ， 就是数据就是用完了 ， 然后后面最重要的数据就是在企业里 ， 然后在真实的这些生活场景里 ， 乃至 ToC 的应用里面去 。

所以这也是我觉得 aposting 为什么后面会有价值的原因 ，因为这些数据它不一定会流到预训练的厂商里面去 。

**曲凯** [21:50]
嗯哼 ， 然后国内模型这块 ， 就是我们不讲具体哪家 ， 就避开那么敏感的话题啊 ，但我们我想分成两类 ， 一类是大厂 ， 对吧 ？

比如说腾讯 、 字节 、 阿里等等 ， 另外一类就是新的一批 ， 对吧 ？ 我们不管是 Kimi 直播还是包括 Mind Lab， 你们定位自己是 New Lab 嘛 ， 对吧 ？

对 ， 我觉得新的这一批 ， 呃 ，因为如果你是未来要追求更大的数据量级 ， 要做更多的事情的话 ， 那你需要的卡和钱就是会更多的 。

**马骁腾** [22:20]
嗯 ， 就是会更多的 。

### 大厂困局

**曲凯** [22:21]
对 ， 那这样的话是不是长期来看 ， 尤尤其是像你刚才提的蒸馏 ， 可能未来越来越难蒸了 。 嗯 ， 那逼着大家呢 ， 只能走正道 ， 对吧 ？

说白了 ， 那是不是还是大厂会更有优势一点 ？

**马骁腾** [22:33]
嗯 ， 单纯看资源或者 operation 的能力上面 ， 这个大厂肯定是比较有优势的 。 但是实际的结果是在这两年， 你可以看到 ， 就是无论是中国还是美国 ， 做出最好模型的都不是大厂 ， 然后都是一些所谓的这些 AI 的创业公司 ， 对吧 ？

这里面我觉得肯定是有一些本质的这个事情在的 ， 比如说我们今年其实频繁的看到大厂在 reorg， 然后有一些明星 。

**曲凯** [22:59]
包括裁员啊什么的 。

**马骁腾** [23:00]
对对对 ， 然后这个事情就很现实 ，因为比如说我们就说千问吧 ， 千问团队在去年这个林俊阳走之前 ， 肯定是公认的第一梯队的主流模型 ， 做的非常好 。

那也就是说千问团队其实它没有道理说它在技术上或者它的资源上是落后的 ，但是呢 ， 后面发生了一系列的事情 ， 这里面最核心的其实是千问的这个账单摆在了集团面前 ， 集团就要看这个账单到底是不是 ROI 最高的 。

那这样的话 ，他们肯定会思考啊 ， 我应该怎么把这个实验室的产出然后做转化 ， 把它的财务做优化 ， 对吧 ？

因为这是一个耗钱实在是太多的庞然大物 。 所以我觉得这个事情是一定会出现在所有的这个大厂里 。

然后国外的话 ， 就像据说 Google 是其实是在这个 OpenAI 之前就已经做出来像 ChatGPT 一样的东西 ， 然后但是它没有放出来 ，因为它觉得这个东西可能会影响它的广告业务 ， 大厂就会发生这样的一些 concern。

有一篇文章写的特别好 ， 叫那个 《The Cost of Staying》， 就是说在大厂这个环境下面 ， 它有一种原生的这种向心力 ，是使得你无法做出来非常突破性的创新的 。

所以我倒是觉得最后一定不是这些大厂去把最好的模型做出来 ，但是这不意味着说大厂会变成这个游戏里面的输家 。

无论是从中国还是从美国上来看 ， 就是他们其实是把算力通过股权也好 ， 然后通过这个销售也好 ， 然后置换给了这些创业公司 ， 所以它是从那个里面去盈利的 。

所以商业上大厂不一定会失败 ， 原因是他们账面上其实是挣到了足够多的钱 ，但是在模型技术的竞争上 ，他们未必是最后的赢家 。

嗯 ， 所以所有的大厂的这个核心决策者 ，他在他面前都摆着一个账单 ， 就是我这些卡到底是这个给 Anthropic 好还是我自己训好 ， 对吧 ？

这是 Google 面临的最大问题嘛 。

**曲凯** [24:43]
嗯 ， 目前其实已经有些苗头是说 ， 就像你刚才也提到的 ， 大家的训练方法什么的 ， 很多其实不是秘诀了 。

慢慢的很多东西会变成一个行业公认的一种操作的守则之类的感觉的东西 。 那在那个时候是不是大厂就会比较有优势 ？

**马骁腾** [24:59]
呃 ， 我感觉也不完全是这样的 ， 就是现在已经是这样了 。 你现在再从头去把这个标准的 recipe 去走一遍 ， 然后 build 这个和现在最好的这些模型团队一样的 team， 就会挺费劲的 ， 然后也消耗很多的资源 。

很多的大厂在后面肯定就会觉得没必要了 。 但是对于这些创业公司来说 ，他们如果做不出来 ， 就他们就死掉 ， 对吧 ？

然后他们一定会 all in 把这个事情给做出来 。 第二是这个数据的长期的一个积累跟清洗 ， 它始终还是有一个优势在的 ， 这个优势很有可能让比较缓慢的大厂 ， 然后持续处于一个劣势 。

所以我我整体还是觉得 ， 就是大厂可能在这场游戏里面 ， 最后会是集体的一个失败的情况 。

**曲凯** [25:40]
哎 ，但我觉得腾讯这个案例还是相对比较典型的 ， 对吧 ？ 就大厂的一个逻辑 ， 就是一开始的时候我可能先看 ， 对吧 ？

我不知道这个事会怎么样 ， 当某一个时刻 ， 我不管是因为外部竞争的压力 ， 还是各方面股东回报等等股价的压力 ， 然后我决定说 OK， 我就是要 all in 干这件事了 ， 我看清楚了 ， 然后我就砸钱 ， 对吧 ？

砸钱第一步可能就是争取能把能招的最好的人招过来啊 ， 然后这些人呢 ， 应该是他八九不离十都知道这套活该怎么干 。

嗯 ， 然后我再给你钱 ， 给你卡 ， 然后给你相对的独立性 。 理论上来说 ，他应该是能用最快的速度至少追平行业 ， 比如说模型上一个开源模型平均的一个水平 。

**马骁腾** [26:20]
嗯 ， 首先腾讯选择顺宇这个事上面 ， 肯定腾讯是极其幸运的 ，而且我觉得腾讯也是非常有魄力的 ， 就是真的是给顺宇了非常多的这个权限 。

然后同时顺宇本身它其实也面临了很大的压力 ， 然后很幸运就是他们在混元的这个系列里面做的还是非常不错的 。

即使是这样 ， 我们也不能说混元现在是最好的模型 ， 对吧 ？ 因为腾讯也投了 DeepSeek 和腾讯长期和 DeepSeek 绑定 ， 对于腾讯来说 ， 哪个会是一个更好的选择 ？

站在腾讯的角度 ， 可能他要思考的不是说我怎么去实现 AGI，而是对于我未来的新的业态的业务 ， 比如说假设腾讯也要去做 Muse， 当然它现在也有 WorkBuddy， 还有比如说未来的微信 ， 可能也会有很多这个 AI 的支持 。

那么那个时候我应该选择什么样的模型会是最好的 ， 这个事情我觉得还是打问号的 。 所以就是我也不觉得混元会是一个非常好的一个状态 ， 包括像 Meta 最近其实 Muse 除了是一个 personal agent 包裹的 APP， 它其实也是一个系列模型 。

你用过 Muse 的模型吗 ？

**曲凯** [27:24]
Muse 后面就是 Muse 的模型是吧 ？ 是这么理解吗 ？ 还是什么 ？

**马骁腾** [27:28]
No， 就是像你用 Muse 的 API， 然后去 coding 这种 。

**曲凯** [27:32]
哦 ， 那没有 。

**马骁腾** [27:33]
那显然没有人用过 ， 对吧 ？ 就是它只是最后打完搒以后， 就没有人会用的一个东西 。 所以这里面我觉得还是有很大的 question。

**曲凯** [27:40]
嗯 ， 哎 ，但我也在想 ，也是一个思想实验啊 ， 比如说我现在从智谱 Kimi 等等 Seed 等等这些公司 ， 每个里面拿出来一个可能在他的这个领域里面八九十分水平的人， 组成一家新的模型公司 。

嗯 ， 那理论上来说 ，他能不能半年就产出一款模型 ，是追平现在的 Kimi 智谱的水平 ？ 嗯 ， 如果不能的话 ， 会主要差在哪 ？

**马骁腾** [28:02]
我觉得他显然是很有可能能做到这一点的 ，但是你在这里面的 cost 是显著不如你直接用他们现在的模型了 。

而且你现在发车去半年做这样一个模型 ， 然后你可能也就能达到现在的水平 。 半年以后这些厂它做到一个什么样的程度 ， 肯定是要领先很多的一个水平了 ， 然后那个时候就非常的不确定了 ， 对吧 ？

而且何况你真的有这么多卡吗 ？ 你真的有那么多的生态的支持吗 ？ 这里面 operation 的难度其实很大的 。

### 国模突围

**曲凯** [28:29]
嗯 ， 所以下一步你觉得包括你们在内啊 ， 国内这些模型 ， 大家核心要拼的是什么 ？

**马骁腾** [28:35]
整体的这个竞争的局面上来说 ， 我觉得肯定还是从 Infra 和 Data 两个角度去理解这个问题 。Infra 上面其实有除了国产卡以外， 有一个很重要的因素 ，其实是模型架构本身 。

现在其实大家都在尝试去做关于模型和 Infra 的这种 code design， 让你的模型尽可能去适用于现在最新的这些卡 ， 甚至有一些苗头是为了未来的国产卡去设计的 。

比如说 DeepSeek 现在采用这个 decoder encoder 分离的这种架构 ， 然后它显然就是希望可以 encoder 未来跑在国产卡上去做 preview， 然后 decoder 跑在呃英伟达的卡上面去做这个 decoding， 然后去做更高质量的生成 。

这是里面有一些这个苗头的 。 如果在这个里面 ， 我们不停的去优化它的一些效率 ， 然后 somehow 我们可以弥补很大程度上我们算力的这个不足 。

第二个就是在 Data 的 operation 上， 如果我们的 Data 可以更好的去集中在一个模型上， 然后尤其是在一些最前沿的领域上面 ， 然后有一些突破 。

我指的这个最前沿的领域 ，是那种真的需要把 Astra 开到 Max 才能解决的这种任务 ， 甚至都解决不了的这些任务 ， 然后像 Science 的一些发现的一些任务 ， 然后那个时候我觉得这个 Data 就会变得极其的重要 。

我们能不能组织足够的 Data 的 team， 然后去在这上面进行压注 ， 是一个很重要的事情 。

**曲凯** [29:58]
嗯哼 ， 对 ， 所以过去一两年其实就是卖数据的 ， 肯定是实打实最赚钱的之一吧 。 那未来几年可能也还会延续这个趋势是吧 ？

只是在不同的数据的形式领域上面 。

**马骁腾** [30:10]
现在其实数据已经 translate 到了这个环境这样的一个语境下面了 ，因为就像你说的 ， 就是什么叫实打实的去做 ， 就是数据我们其实 equivalent 就是蒸馏 ， 就是你有一个更高质量的数据 ， 然后你把 SFT 进去 。

但是如果在你没有这样一个标准答案的情况下， 你一定是得有一个题目 ， 它可以在里面去试 ， 无论是用 RFT 的方式还是用 RL 的方式 。

所以就是环境变得非常的重要 ， 这个又是现在可能大家比较忽视和相对需要花更多的 effort 去构建的一个东西 。

**曲凯** [30:42]
嗯 ， 所以海外的模型你最看好的是哪个 ？

**马骁腾** [30:45]
我我目前肯定最看好的是 OpenAI 和 Anthropic， 然后如果非得 pick 一个的话 ， 我目前比较看好 OpenAI。

**曲凯** [30:51]
原因是 ？

**马骁腾** [30:52]
呃 ，因为 OpenAI 的这个新的模型里面 ， 它对 harness 还有 reasoning 的结构做了一些调整 ， 然后目前看 Anthropic 应该是没有在这方面做一些调整跟跟进的 。

**曲凯** [31:04]
你真的 pre-training 的时候吗 ？

**马骁腾** [31:06]
是对 pre-training 的时候 。

**曲凯** [31:07]
OK， 那国内的这几家你大概最看好的 ？

**马骁腾** [31:11]
我显著看好 DeepSeek，其实在 Data 的逻辑上面 ， 这个就很难说 ， 对吧 ？ 就是到底大家往哪个方向去做 ， 这个更多是一个 operation 的问题 ， 然后但是 DeepSeek 几乎 all in 在了第一个事上， 就是 Infra 和模型的 code design 上 。

然后如果细致的去 train 过 DeepSeek 的模型 ， 你会发现它非常紧耦合的一个设计 ， 就是包括因为我们在训 LoRA， 然后我们在 DeepSeek 的架构上面去训 LoRA， 我们都会发现我们加上 LoRA 以后， 都会破坏一些 DeepSeek 最佳的那个平衡点 。

然后当然这个有可能是因为我们现在还没有做到极限 ，但是在这个里面 ， 就是明显的能看到 DeepSeek 的一些 Infra 上面的智慧 。

然后我举一个小的例子 ， 就是他们之前那个 MHC 是四路 ， 这次减到一路了 ，其实这个就是为了 Infra 上面的一个设计 ， 包括刚才说的 encoder decoder 的这个分离 ，也是为了 Infra 的一个设计 。

然后这些 Infra 的设计会导致它的价格极其的便宜 ， 它的价格便宜就代表着它能拿到更多的数据 ，而且它可以支撑更多的 token 的使用 ， 然后包括它 RL 的 training 会变得更快 。

这是一个非常系统性的结果 。

**曲凯** [32:11]
嗯 ， 除了 DeepSeek， 还有别的你看好的吗 ？

**马骁腾** [32:14]
我自己还是比较喜欢 JRM 的 ， 首先就是我们今年做了很多 JRM 的 post-training，JRM 的模型确实非常好用 。JRM 这个公司 ， 它虽然看上去没有很多花哨的这个创新啊 ， 甚至有很多合理性借鉴 ，但是它确实是在 practical 的做模型 ， 它是希望这个模型是最实用 、 最好用的那个模型 。

而且就是 JRM 是真的非常认真在做数据的 。 我们看的这几个厂里面 ，JRM 自己的这个数据的生成线应该是最完善的 ， 数据做的质量最高的 。其实能不能这么理解 ， 智谱是最务实的 ， 就是实打实的在做每一件事 ， 把每件事做好 。

嗯 ，DeepSeek 就是在 Infra 上做的最好的 。 对 ， 然后 Kimi 它是比较 fancy 的 ， 它比较喜欢创新 。

**曲凯** [32:59]
哎 ， 那这么讲的 ， 那 MinMax 是不是也是类似这个问题呢 ？

**马骁腾** [33:03]
MinMax 在我看来就是信仰不够坚定 。MinMax 一度它有自己非常有特色的方法 ， 就是 linear attention， 然后 linear attention 也现在成为了大家实质上经常使用的一个技术 ，但是它自己没做下去 ， 然后它自己又放弃了 linear attention， 回到了传统技术 。

**曲凯** [33:19]
对 ， 所以我觉得你看它其实是一开始的时候做产品做应用做的最好的 ， 或者说最重视产品和应用这块东西 。

对 ， 就像你讲 ， 它可能反而不是一个坚定的 all in AGI 的那么一个角色 ， 我觉得正好跟那个 DeepSeek 是相反的啊 ， 所以它会做很多应用的东西在中间 。

**马骁腾** [33:37]
对 ， 这里面有一个很强的顺序跟 timing 的问题 。 今天 DeepSeek 又在开产品团队 ， 招产品的人了 。 当你把模型做好的时候 ， 你做商业化跟产品 ， 这是顺水推流的事情 ， 对吧 ？

就是 MinMax 有一点搞反了 ， 就是它先做了营收 ， 然后先去追求上市 。 当然就是 MinMax 也是事实上第一个上市的公司 ，但是这里面肯定牵扯了大量它的 attention， 然后使得它在今年的模型竞争里是不是很占优势了 。

这跟 AI 都没有关系 ， 对吧 ？ 这就是蒸汽机时代就是这样的 ， 就是你一定是先有技术 ， 然后你改善这个技术 ， 然后到它能变成工程 ， 然后可以商业化 ， 然后完了你把它产品化 ， 然后再推广运营 ， 再拿这个推广运营的结果 ， 再回来再迭代你的这个技术 ， 这一定是这样的 。

所以这个也是为什么我们要这样去 run 我们的 lab 的原因 ，因为我们觉得在像 25 年年底这样的一个状态 ，其实还是一个 research 主导的状态 ， 然后我们还有很多东西需要去探索 。

然后那今天像我们做的一些 LoRA 上的技术 ， 它就可以被商业化了 ， 我们就在探索一些什么下一次迭代的这个新的技术了 。

等我们把 LoRA 做好了以后， 它商业化就是顺水推流 ， 就是很自然的一件事 。

**曲凯** [34:41]
嗯 ， 哎 ， 我突然想到一个问题啊 ， 就是你最好的模型都是国内外， 确实很多是创业公司在做出来的 ，但 CDance 的成功你觉得是因为什么呢 ？

**马骁腾** [34:48]
哦 ，CDance 的成功这也太显然了 ， 就是因为 Data 好呀 ， 就是数据 ， 对吧 ？ 纯粹就是数据 。 对 ， 然后另外我觉得就是这个非常明确的场景支撑跟支持 ，以及就是确实拿了足够的算力进来 。Seed 在做他们要做好 CDance 这个决策的时候 ，其实同时也是代表着他们要切出来一部分卡 ，不做语言模型 。

嗯 ，他们没有 all in 去做语言模型 ， 然后反过来 ，OpenAI 其实做的决策是切掉了 Sora， 然后 Sora 其实那个时候做的也是很不错 ， 效果也很好 。Sora 如果留到今天的话 ， 应该是比 CDance 可能表现不会差的模型 ， 对吧 ？

但是当时这个 OpenAI 做出来决策 ， 就是把这部分卡全部都拿出来 ， 然后 all in 去做语言模型 。 我不能说这一定是 Seed 的语言模型失败的原因 ，但是这肯定是是有这个因素的 。

### Neo Lab之辩

**曲凯** [35:32]
嗯 ， 然后最后我想谈谈 New Lab，因为你们自己也定义自己 New Lab，但我觉得国内过去半年到一年， 其实出来很多 New Lab，但我感觉首先国内的 New Lab 跟海外其实不太一样 ， 对吧 ？

海外的 New Lab 很多是垂直于某个领域的 New Lab， 或者说它是真的是有些创新架构的 New Lab， 就还是差异化更明显 。

国内这波呢 ， 我感觉很多 New Lab 其实是新出来一个人讲一个 New Lab， 或者世界模型的 New Lab， 或者说是 RSI 的 New Lab，但这些 New Lab 呢 ， 我总觉得它本来就在现在大的这些 Lab 的主线上， 对吧 ？

你的所有的智谱 、Anthropic、OpenAI 等等 ， 大家都在讲 RSI， 那为什么还会有一个新的 RSI 的 New Lab 出来 ？ 总而言之 ， 就是你对整个 New Lab 的生态海内外你是怎么看的 ？

**马骁腾** [36:14]
我先想谈一下我对 Neurolab 的理解 ， 就是为什么要叫 Neurolab，是因为它不是一个传统意义上的 Lab， 就是它不是只搞写论文 、 发 paper、 申请基金这样的一个 loop， 它是实打实的在做一个可能会被商业化的事情 。

所以我们其实在我们 set up 我们这个 Lab 的时候 ， 我们就有一个 slogan 叫 Research Product Code Design。DeepSeek 可能更多做的是 Infra 和 Model Code Design， 我们做的更多的是我们自己的 algorithm 和我们的 product 去做 code design， 然后我们面向实际的这个场景去反推我们应该做什么 research， 然后我们以我们这个 research 真的有没有用处作为我们的判断标准 ，而不是把它变成一个论文发表出去 ， 作为我们自己判断我们自己 work 的标准

。 很多在我看来 ， 现在把自己宣传成一个 Neurolab 的 ，他没有想明白这个道理 ，他没有想明白其实他虽然叫做 Neurolab，但是他实际上是有是个公司 ，他是拿着投资人真金白银的钱的 ，他最后是要 deliver 他商业化的价值的 。

呃 ， 如果没有尝试去在商业化闭环 ， 我觉得他都不是一个 Neurolab。 对于我们来说 ， 我们也是一直在这个 research 和我们最后这个商业化产出里面去做一个平衡吧 。在听这个播客的是投资人， 一定要来看一下大家讲的这个 story 里面 ， 它到底是不是有一个商业的闭环的逻辑的 。

**曲凯** [37:29]
所以你不觉得大家会讲说我是个 New Lab， 然后呢 ， 我的目标是未来做出来更好的模型 ， 超过今天所有的模型 ， 包括有些不同的架构的嘛 ， 对吧 ？

你就包括像那个 Discovery Loop， 最近也有人在做像 Diffusion Model，他们瞄准的应该是一个更牛逼的 OpenAI、Anthropic 吧 ， 我的理解是 。

**马骁腾** [37:48]
首先你觉得 OpenAI 跟 Anthropic 牛逼 ，其实是因为人家赚钱赚的多 ， 人家这个模型是有用的 ，他拿过来是好用的 ， 对吧 ？

**曲凯** [37:56]
呃 ，不 ， 我觉得是因为他模型首先是绝对的好 ， 所以赚钱是他模型好的结果 。

**马骁腾** [38:01]
那什么是定义这个模型的好呢 ？

**曲凯** [38:04]
嗯 ， 我举个大家经常看到的例子 ， 就是比如说某个模型 ， 它就能把一些之前 coding 上有 bug 的问题 ， 它就能解决掉了 。

**马骁腾** [38:11]
那为什么这个事是重要的呢 ？

**曲凯** [38:14]
就真正能进入实际应用 。

**马骁腾** [38:17]
Yeah， 只有这个事情是重要的 ， 只有有用是重要的 。 我觉得所有的 researcher 都在犯一个致命的问题 ， 就是大家是非常善于造锤子的 ， 都是喜欢拿锤子去找它的钉子 。

您提到很多这个新的架构和技术 ， 当然我觉得它们都是 promising 的 ，但是它很有可能会成为一个拿锤子找钉子的事情 。

你的钉子到底是什么 ， 你应该先想好 。

**曲凯** [38:39]
哦 ， 我理解你的意思 。 所以这么讲 ，其实也大概明白为什么我们看到美国很多 New Lab 是在垂直领域的 。

对 ，因为它就是在跟垂直领域的那个落地做结合的 。

**马骁腾** [38:50]
对 ， 然后反过来 ，其实这个也不是说美国一定做的比中国好 。 美国有一些 Neurolab 确实也犯了这个错误 ，也在这个 loop 里面 ，但是 somehow 美国的很多公司 ， 它其实是更多的 ，有更高的比例是真的是先从一个实际的业务去 drive， 然后说我现在其实是需要一个新型的 research type 的东西去做未来的这个事情 。

我觉得应该是这样的一个逻辑 。 所以在这个逻辑里面 ， 比如说我认为长期记忆是重要的 ， 所以这个时候我要发明一种长期记忆的网络 ， 它能产生很高的这个商业价值 ， 然后能让很多人用到 ， 然后帮助大家的生活 ， 那我觉得这个工作是有意义的 。

**曲凯** [39:26]
你看之前一段时间我们播客也讲过 ， 然后美国红杉也在提 ， 对吧 ？ 说那个下一代的真正的 New Lab 其实是今天的应用公司 。

嗯 ， 所以刚才你讲的一些逻辑我都看得到了 ，但为了做到落地这件事情 ， 到底是应该模型和产品并列走 ， 还是先模型再产品 ， 还是先产品再模型 ， 就这两个之间的比重跟优先级的关系 ， 你觉得怎么样才是最合理的 ？

**马骁腾** [39:48]
这个里面应该是比较清晰的 ， 就是一定是先做 research， 先做模型 ， 然后再做产品 。

**曲凯** [39:55]
为什么呢 ？ 可是如果你是为了要落地的话 ， 你应该先知道用户的需求 ， 先有问题你才能去提供解决方案 。

**马骁腾** [40:02]
Very good question。 所以我觉得最好的方式就是你首先有一个产品的 pro type， 尝试把这个产品去推向市场 ，但是这个时候你不要做大规模的增长跟投流 ， 这样的话你就是可以达到你的两边的目的 ， 你可以 collect 一些 real data， 这个对于 research 来说非常非常重要 ， 然后你再从这个这个里面去做各种各样的实验 。

当你搞 work 了 ， 然后你再想办法去做更多的场景 ， 然后你就可以发现更多的一些问题 。 这个我觉得是在我心目中最理想的一个闭环 。

**曲凯** [40:30]
嗯 ， 我觉得大家现在尤其是国内啊 ， 包括媒体啊什么的 ， 大家提到 New Lab 就会有下意识的一个反感 ， 甚至包括很多被黑的 ， 我们刚才说有争议的公司 ， 就是大家觉得它太讲故事了 ， 讲了一个特别 fancy 的故事 ， 然后或者说是最近特别热的一个话题 ，但是呢 ， 没有看到 deliver 结果啊 ， 这可能是现在很多公司被黑的一个原因 。

**马骁腾** [40:54]
是的 ，是的 ， 我自己也比较讨厌这种公司 ， 然后但是这我觉得是人类 attention 的一个局限性 ， 就是人很容易被一些新的名词和新的概念去吸引 ， 什么 Neurolab， 什么 RSI， 然后其实在我们自己内部 ， 我们不是特别强调我们自己是一个 Neurolab，而更多我们强调我们做 research product code design， 然后做扎实的工作 ， 然后 deliver 结果 。

那个 RSI 我们也不怎么讲 ，RSI 我们更多讲模型的自动的训练和自动的部署 ， 帮助大家减轻这个训练模型里面的这些 friction。

**曲凯** [41:24]
但你们对外 PR 是提的 New Lab 的 。

**马骁腾** [41:26]
我觉得 PR 是一个说法吧 ， 我们不是为了做一个 Neurolab 而做一个 Neurolab。

**曲凯** [41:32]
这个我理解 。 我觉得很多时候公司也是 ，因为我们自己也是媒体 ， 对吧 ？ 我们也做 FA， 就是公司你有时候没办法 ， 对吧 ？

你说大家都在讲自己是 New Lab， 你总不能非要讲一个说我其实是模型在训练自己 ， 就是你讲一个很长的一句话来 ，其实它已经给你贴了个标签了 ， 最后其实还是会给你归到那个标签里面去 。

**马骁腾** [41:51]
呃 ， 别人怎么看我觉得不重要吧 。

### RSI冷思考

**曲凯** [41:54]
嗯嗯 ， 那既然你提到 RSI， 我们可以再简单聊几句这个事 ， 就这个事你怎么看嘛 ？ 你觉得离实现还远吗 ？

**马骁腾** [42:00]
我个人感觉现在完全就是一个一个宣传口号 ， 就是其实 AI 很简单 ， 对吧 ？ 就是 Data， 然后 Model， 只是可能你 training 的这个这个有一些 detail 是不一样的 ， 然后对 RSI 其实也一样 ， 然后这种感觉就有点像你从 prompt engineering 变成了 context engineering， 然后又变成了什么 honeyness， 哦对对对 ，honeyness engineering， 嗯 ，其实都是一个东西 ， 只是你强调的重点变化了 。

然后 RSI 里面肯定强调重点是在模型训练的迭代里面 ，AI 占的比重开始变高了 。在刚开始训练模型的时候 ，因为模型比较笨 ， 然后我们要做 RLHF， 然后让模型跟人的能力去对齐 ， 后来就是人的各种 preference 都用完了 ， 就我们就只能让它跟一些有事实标准的事情去做对齐 。

现在模型比较聪明 ， 它有可能可以自己跟自己去做对齐 ，但是它自己跟自己做对齐一定也是在相对比较标准 ， 然后相对比较可验证的一些事情上 。

说白了 ，RSI 就是在一个相对高速可迭代的这个 Infra 上面做一个自动化数据构建的一个 pipeline， 然后让模型自己去找数据 ， 然后造出来 verify， 然后再回来去训练而已 ， 没有什么很复杂的 trick。

我自己是不太相信 ， 就是最后的这个我们的模型迭代里面是完全不需要人的 ，因为我觉得整个 RL 里面 reward 的这个设计是很难完全依赖于模型自己的 ，因为这个道理非常简单 ， 就是人到底需要什么才是 AI 实际的准则 。

然后举个例子 ， 比如说 Andrew Capacity 他在接受采访的时候也说到 ， 就是 Anthropic 是很难让模型自己迭代自己的写作能力 ， 这也是为什么大家看到就是它的写作能力可能越来越差 ， 呃 ， 就是一直在有人在把 AI 自己迭代那个写作能力再拉回来 ， 对吧 ？

因为它没有办法判断这个写作是不是一个对人来说友好的一个事情 。 然后所以我觉得有很多这样的东西 ， 它是很难被完全 RSI 化 。

第二就是即使说我们实现了我们想要的那个 RSI， 我们还是没有解决 Data 到底从哪来的问题 ， 比如说一个机密的制药公司的数据 ， 那这个 AI 它在公开的网络上面它没有获取过 ， 同时它又没有一些手脚可以让它去做这些实验 ， 它怎么可能实现完全的这种自我进化呢 ， 对吧 ？

这是不可能的 。 然后除非这个这个公司真的可以 access 所有的数据 ， 然后让 AI 去操纵它做做一些迭代 ， 否则是很难去做到的 。

### RLaaS实践

**曲凯** [44:21]
嗯 ， 明白 。 然后最后再讲回 Mind Lab 吧 ，因为我知道你们最近在做一些 RLaaS service 的事情 ， 对吧 ？ 就是你们会帮其他的公司去训模型 。

嗯 ， 这个和我们刚才讲 New Lab 矛盾吗 ？ 就现在算是一个转型还是一个延续 ？

**马骁腾** [44:35]
我觉得完全不矛盾 ， 就是自始至终一直希望做的就是从真实的这个环境里面去做 learning。 大家可能第一反应听到说帮一些公司去做模型 ， 可能是一个非常像外包一样的这个工作 ， 对吧 ？

然后你呃 ， 一群人， 然后去那帮客户把这个项目给结了 ，但是实际的情况完全是不一样的 ， 就是客户的一些场景是真的非常真实的一些场景 ， 比如说它有的时候会抽象出来非常好的这种数据集 ， 比如说一种材料的研发 ， 然后这个研发过程中的一些真实的数据 ， 这些都是可能公开语料很难获取的这样一些 Data。

然后再比如说有一些像金融或者是医疗的一些这个数据 ， 它是一种流式的 ， 它每天都会有一些新的问题 ， 新的 query 进来 ， 然后怎么能在这些新的 query 里面 ， 尤其是用户有一些负反馈的一些 query 里面 ， 然后去构造环境 ， 然后持续的给这个模型去做训练 ，其实我觉得才是现在最重要的一些研究的问题 。

所以我们更多会把和客户一起去做模型的这个事看作一个 research， 它又闭环到我们最后说的这个商业化的事情里面来 ， 就是如果这个东西它不能 deliver 价值的话 ， 我们觉得我们这个 research 其实是无效的 。

我们一直都是投入我们这个东西最后能真的去商业化为目标去做的 research， 然后我们现在有机会能去做一些这样的项目 ， 我觉得挺好的 。

**曲凯** [45:55]
嗯 ， 就美国有很多家是在做类似的事情 。

**马骁腾** [45:59]
是的 ，是的 。

**曲凯** [46:00]
然后我们也有个很明确的感受是说美国的各种中间层的公司吧 ，不管是做数据的还是做 Infra 的 ， 它首先他们自己也都在做模型 ， 都在做算力相关的东西 ， 然后慢慢的也都要自己去买卡 ， 就是中间好像都慢慢的变成一个聚合的形态了 。

我不知道你们有没有这个观察 ，以及你觉得背后的这个原因可能是什么 。

**马骁腾** [46:21]
嗯 ， 首先我有这个观察 ， 然后我觉得这可能是一个相对比较本质的事情 ， 就是模型即服务 ， 模型即产品 ， 这个逻辑本身是没有任何变化的 。在 AI 的时代 ， 然后你后面去 drive 整个这个 process 的模型 ， 就是你最重要的东西 ， 你体验差异最大的东西 ， 剩下的前端呀 ， 或者是你的这个 honeyness 这些东西都不重要 。

我我前两天还给我的同学在说到一句话 ， 就是我们可以记住历史上很多的名马 ， 赤兔呀什么的 ，但是我们从来没有记住一个名鞍 ，因为马鞍子都是差不多的 ，honeyness 就是那个马鞍子嘛 。

回到这个模型怎么去做好的这个事上面 ， 可能就是大家都会去想怎么去像你说的 ， 就是整个这个 pipeline 上的所有的事情 ， 然后部署啊 ， 然后 training 啊 ， 然后包括呃 LoRA 的一些反推啊 ， 然后做 benchmark， 这些事情就是都是必不可少的 ， 哪个都缺不了 ， 然后只不过就是呃哪些是自己能做的 ， 然后哪些是可以外包给别人做的而已 。

**曲凯** [47:17]
嗯 ， 我自己也研究了一下美国的整个的 Infra 相关 ， 包括 LLaaS service 等等生态 ， 你会发现它其实美国那边也是 ， 它就是几撮人， 英伟达肯定是最核心的那么一环 ， 对吧 ？

然后还有的是围绕 Elon Musk 他们那边可能也有一圈人啊之类的 。 嗯 ， 然后最后呢 ，因为英伟达卡的重要性变成说 ， 哎 ， 谁能拿到更多的卡 ， 好像谁就有更多的算力 ， 谁就能做更多的事情 。

国内的好像是缺乏这个生态链里面很核心的这一环的决定性的作用 ， 最后大家是不是会变成比较就比较散的在打啊 ？

我不知道这个抓手到底在哪里 。

**马骁腾** [47:54]
嗯 ， 国内的情况目前看还不卡在算力这个部分上 ，因为整体来说后训练这个事需要的算力比预训练少太多了 ， 它不是一个这个非常资源消耗型的事情 ， 然后甚至就是在某种程度上， 它都不需要用最新的那些卡 。

从中国的生态上面来讲 ， 我觉得对这些事情的理解和接受的难度要大于拿卡的难度 ， 就是很多国内其实很适合去做这样服务的人的这个脑子没有涨满 ， 就是这个灯味太太足了 ，他会转变他的想法 ， 包括就是我我们经常会说 ， 就是中国的 SaaS 做的就呃显著的不如美国 ， 然后就是因为中国去接受这种服务的意识是不够的 。

对 ， 所以我觉得这中间肯定是要有一个比较漫长的过程的 。

**曲凯** [48:40]
你们现在实际在跟那些客户交流的过程当中， 你有发现哪些有意思的点吗 ？ 就大家的需求到底是什么样 ， 大家对这个事的期待怎么样呀 ？

然后到底什么样的是最适合不管是跟你们合作 ， 还是他自己怎么样做个模型的 ？

**马骁腾** [48:54]
In general 我们肯定是希望可以说是客户有两个维度 ， 一个象限 ， 然后第一个维度就是对技术的理解 ， 技术的理解就是我们现在的这个 threshold 是你要有自己的 benchmark， 你你只有有自己的 benchmark， 你才能去选择什么模型是好的 ， 否则我给你训一个模型 ， 然后你又没有办法评判是好的 ， 那有办法这个事情就就没人定了 ， 对吧 ？

然后我也很难去 create 一些这个环境 ， 然后有了 benchmark 以后很多东西就变得很好说了 ，因为它是至少它已经想清楚它应该往哪个方向去优化了 。

这个再往前可能就是刚开始尝试 agent， 然后刚开始尝试做一些模型的使用 ， 再往下可能还是在 RAG 的这个阶段吧 ， 这个纵向可能更多是和这个公司的收入还有它的 PMF 有关的 ， 对吧 ？

就是典型可能有两种 ， 然后一种就是创业型的公司 ， 然后它已经实现了自己的 PMF， 就是它拿现在的这个 Frontier 的一些模型 ，BI 的模型 ， 然后很好的可以服务自己的这个场景 ， 然后它开始追求怎么能做得更好 ， 怎么能更适配它的用户 ， 然后怎么能降低成本 ， 这种用户是非常高质量的 ， 往往它也是有 benchmark 的 ，因为它要经常去换模型 ， 然后发了新的模型

它都要测一下 。 然后另一种就是说可能相对垂欲跟传统的企业 ， 这种企业里面就是符合这个技术性的条件的就相对比较少 ， 然后但是我们也会在里面去识别 ， 就是他们最高质量的这个部分 ， 至少它是不是真的在实际的应用落地 ， 这个东西是不是对它真的有价值 ， 然后我们也不会专门为了 PR 去给别人去做一个模型 ， 这样对我们来

说也是一种伤害 ， 就肯定会陷入这个无穷的这种 to be 的扯皮里面去 。 我们整体感觉就是 post training 这个事情是一个行业最头部的这个公司 ， 然后做好做透的一个事情 ， 一旦这个行业最头部的这个公司 ， 它能把它的这个方案去验证了 ， 可能整个这个行业都会去跟随上来 。

然后反过来就是如果头部的公司都没有 get 到 post training 的意义和价值 ， 那大概率这个行业是不需要 post training 的 。

**曲凯** [50:52]
所以你觉得 post training 或者说它自己做一个模型的真正最核心的意义是什么 ？ 我感觉是成本还是某个领域的表现 ， 还是什么东西 ？

**马骁腾** [51:01]
显然是两个都有 ， 就是大家经常在说斩杀线嘛 ， 当然现在这个斩斩杀线比较 tricky 的是大家都看固定 benchmark 的这个分数嘛 ， 就是在纵轴上， 那实际的应该就是在场景里面关注的 ，其实纵轴上是他们自己的 benchmark， 横轴上是各个模型它自己的 cost， 然后那后训练显然可以在这两个维度上面去帮助大家 。

第一个维度就是在他们已经在用的这个模型上， 比如说他现在就在用 JAM 5.3， 然后那么我可以基于 JAM 5.3 来继续提升它在纵轴上的表现 ， 同时我也可以想办法把它现在的这个 JAM 5.3 的这个表现给它训到 JAM 5.3 flash 里 ， 这样它的这个成本不就下降了吗 ？

所以就是我觉得后训练大概就是这种两种作用吧 ， 就是往左边的斩杀线的移动跟往上面的斩杀线的移动 。

**曲凯** [51:49]
嗯 ， 那现在的账大概会怎么算啊 ？ 大概需要多少钱来做这么件事 ？

**马骁腾** [51:54]
嗯 ， 这是不是有点做广告的嫌疑 ？

**曲凯** [51:57]
哈哈哈 ， 你不你不用说你们的定价 ，但你说大概的这类的成本嘛 。

**马骁腾** [52:02]
其实大家的定价都很一致 ， 就基本像我们跟 Fellou、Scalop、Tinker 这样的一些公司 ， 就是大家的定价基本都是按 token 去定 ， 就是呃你有多少数据 ， 然后这是一个标准的算法嘛 ，而且就是直接跟算力的消耗是有关的 ， 大概可能在最 front 的模型去 train 一次 ， 就是一个几万块钱左右的迭代吧 ， 然后可能一个项目跑下来 ， 我们的经验是可以控制在人民币的几十万到 100 万左右 ，

就是 DeepSeek、Vicepro 和 JAM 5.3 这样的模型上面去 ， 这个比较小的那就比较便宜了 。

**曲凯** [52:35]
那其实成本非常低了 。

**马骁腾** [52:37]
对模型训练来说肯定是很低了 ，但是对于很多公司来说 ， 这还是一个很大的这个研发投入嘛 。

**曲凯** [52:44]
几十到 100 万人民币吗 ？

**马骁腾** [52:46]
对啊 ， 还 OK 吧 ， 融到了个 B 轮假设 ， 对吧 ？ 我赚赚起码一两千万美金 ， 那拿出来 10 万美金做这么一件事是很值得的吗 ？

我觉得是非常值得的 。

**曲凯** [52:58]
嗯 ，但如果这样的话 ， 那你们在谈客户时候会遇到什么问题吗 ？ 假设就是已经满足了它基本的那些东西啊 ， 啊 ， 就是它是有钱也有 benchmark， 然后愿意做这件事 。

**马骁腾** [53:08]
我觉得核心的一个问题就是 Data 的 access， 用户还是对 Data 有一些敏感性嘛 ， 这个就比较自然 。 然后现在大部分的用户其实是还好的 ， 就是他们觉得这个只要效果好我都 OK， 然后因为他们也在高速的增长之中， 即使他们不就是用我们的模型去 training 服务 ， 然后这些数据其实也流到了这些模型厂 ， 对吧 ？

就是模型厂也拿到他们数据 ， 所以这个还好 。 另一部分人就是一定要要求是做这个本地部署呀什么的 ， 这个也非常中国特色了 ， 然后这个我们也支持 ，但是这个肯定就是成本会比 service 要高嘛 。

**曲凯** [53:45]
首先我们看到个大的趋势 ， 就是模型训练这件事 ， 尤其是后训练 ， 像你提的 ， 它是越来越透明和标准化的一件事情 ， 然后呢成本又不高 ， 然后你提到的这些公司 ， 它可能又是各自领域里面头部公司 ， 它才会愿意做这件事 。

它为什么不自己建个小团队来做这样的事情呢 ？

**马骁腾** [54:04]
后面肯定是有些公司都会用一些 service 来做 ， 然后有一些公司会自己建团队来做 ，但是它去 build 一个 Infra team 的这个成本是相当高的 ， 我们找到的都是相对最 top 的这些 Infra 的 researcher， 然后他们是非常懂这些底下的一些细节的 engineering 的 。

我们经常讲叫什么 5D 一体 、5P 一体 ， 就是这个各种 parallel， 对吧 ？ 然后都要放在一起 ， 然后其实是很麻烦的事情 ， 然后要把它训对 ， 然后训得快 ， 成本要低 。

所以就是如果你在一个比较大的这个模型上面做训练 ， 用我们的这种方式会比较靠谱 ，而且我们会持续跟踪一些更新的模型 。

当然就是如果你的业务里面是用个小的千问模型训一下就可以了 ， 然后那我觉得就是也不需要我们去训 ， 然后我相信后面可能两种方式的公司都会有 。

**曲凯** [54:55]
嗯 ， 明白 。 对 ， 还有什么你觉得没聊到的吗 ？

### LoRA心路

**马骁腾** [54:58]
就是 share 一下可能我们做 LoRA 的一些心路历程吧 ， 就是说刚开始做 LoRA 的时候 ， 完全是因为就是我们卡少 ，25 年 3 月左右的时候 ， 我们开始做 DeepSeek 的这个 LoRA 的 training， 当时可能也就 4 台 H800 这样子 ， 可能去年 9 月左右的时候 ， 就是我们看到了 OK， 那个 thinking machine 发了这个 LoRA without regret， 就是 LoRA 其实跟全量的训练在很多的时候是一样的 ， 然后我们就发现很振奋 ，因为这个跟我们

看到的这个是一样的 ，而且我们的进度也差不多 ， 所以我们就发现其实呃 LoRA 是一个很好很 practical 的可以训大模型的一个技术 ， 然后我们就 follow Tinker 做了一个我们自己的 service 叫 Mint， 然后有了我们自己的这样的一个可以训很多 LoRA 的 service 以后， 我们就在思考说就是我们能拿它来干什么 ， 我们就在想其实我们在做三个维度的事情 ， 就是 scale up、scale down and scale out。scale up 就是我尽可能的把我的

模型做大 ， 然后我在更大的模型上面去做训练 ， 这样它的智能比较强 ；scale down 就是指我应该把 LoRA 做得小 ， 每个 LoRA 更小 ， 它的成本就更低 ， 我迭代的速度就更快 ，有了更小的这个 LoRA 以后呢 ，其实我就可以 scale out， 我就可以训很多很多 LoRA， 然后我们在这里面就找到了一种非常有趣的生物的相似性 ， 就是我们会发现人跟人之间的这个基因的差异 ， 实

际上它是很小的 ， 比如说我跟曲老师之间的基因的差异 ， 实际上是在千分之五以下的 ， 然后甚至更低 ， 看大家长得还有点相似 ， 可能是在千分之二以下 。

那么这么低的一个水平下， 然后咱们俩的表现又不一样 ， 对吧 ？ 就是说话的声音不一样 ， 然后我们的身高长相也不一样 ， 这些东西可能很大程度上影响了你是你 ， 我是我 ， 对吧 ？

这就好像是 LoRA 的那个 part，LoRA 的不同就是它就造就了就是这个模型 ， 它的 behavior 是不一样的 ，但是呢 ， 大部分的东西还是承载在那个被 fix 的这个 base model 里面去 ， 这些参数它是不变的 ， 变化的就是那个剩下的这个小的 LoRA adapter。

最后就是 scale out， 就是我们尝试在 4 月做了一个可以支持 100 万个 LoRA 在一个 base model 上面去推理的一个系统 ， 然后我们就在想在未来会不会就是一个 system， 就是一个有非常非常多的 LoRA， 然后挂在上面 ， 然后完全不同的 behavior， 这个时候它可能会变成一个 maybe 是一个 agent 的 sincerity 一样的东西 ， 对吧 ？

各种各样的这个神奇的事情会发生 。

### 终局之问

**曲凯** [57:21]
嗯 ， 明白 。 你最近最主要在关心的问题是什么 ？

**马骁腾** [57:25]
好 ， 就是我想讲的 ， 哈哈哈 。 然后我最近最关注的问题还是持续学习 ， 就是我们刚才其实在谈的很多东西 ， 还是陷在那个 standard recipe 里面去 ， 一种标准菜单式的研究 ， 然后但是在这种标准菜单式的研究之外 ，是否有一些什么新的可能性跟突破 ， 然后我个人觉得最重要的事情是 ， 我们应该给模型有一个储存长期记忆和它 test 的地方 ， 然后我在想 ， 比

如说 auto-research 或者是 AI scientist， 对吧 ？ 显然 AI 现在看论文的速度可是比我快太多了 ， 比如它一天看个 300 多篇论文 ， 它能不能产生一些 insight， 然后我是非常明显能感觉到 ， 就是我在读了 300 多篇论文的时候 ， 我就悟了 ， 我就感觉就是再有新的论文 ， 我就很快能 get 到这些论文里面的点 ， 然后我很快能知道这些东西可能对我下一篇论文可能有哪些 contribution，但是

其实我虽然是有这种 sense 的 ，但是我其实是不知道之前 300 篇论文的 every detail 的 ， 然后我是其实是把这种 taste 压缩到了一个地方 ， 现在的模型其实最大的问题就是它没有东西去储存这种 taste， 这个就是我现在非常关心的一个 research 问题 ， 然后我认为想实现持续的学习 ， 一定要有一个地方它能储存它的这种 taste， 这种 taste 是一个轻量可迭代的单元 ，是 maybe 是类似 LoRA 这样的结构

，但是会需要一些新的这个更新的一些方式处理更长期的记忆 ， 然后它的学习变得更高效 ， 这个据说也是 Ilya 在讲的一些 topic。

**曲凯** [59:01]
嗯 ， 哎 ， 我最后我还在想一个问题啊 ， 我们聊了很多模型啊 ，New Lab 啊 ， 包括你们在做的事情的这些东西 ， 最近大家经常在聊的就是 Astra 对具身和物理世界的这个影响 。

嗯 ， 本来大家都觉得具身里面应该会 ，因为它都已经到了实体线下世界了 ， 对吧 ？ 大家会觉得说它是需要实体的这些数据 ， 然后需要实体的环境 ， 然后它会有自己的一个模型 。

嗯 ，但甚至于现在大家发现 Astra 可能通过泛化或者各种它的方法 ， 就能把这个也解决掉了 ， 那未来会不会包括你们现在在做的事情 ， 包括很多其他人在做的事情 ， 就是会被一个或者少数的一两个大的模型泛化全都解决掉 ， 然后大家发现在做的事情都是白费的啊 ， 包括我听说有 Anthropic 的人 ，他们内部的人评价 person agent 这件事情 ， 对吧 ？

因为现在也很火 ， 它 Anthropic 里面也会有人说他觉得看不上这个东西 ， 对吧 ？ 觉得它也是一个表面的东西 ， 最终只要模型的智能足够强 ， 所有这些东西模型都会自己解决掉 。

**马骁腾** [1:00:04]
Anthropic 就是不管是谁说的这句话 ， 它 Data 采购的人一定会采购大量 person agent 的 Data。

**曲凯** [1:00:10]
没毛病啊 。

**马骁腾** [1:00:10]
然后这个不冲突 ， 呃 ， 这个我觉得是冲突的 。 我觉得如果 Anthropic 不做 Claude code， 它现在绝对不能跟 OpenAI 去抗衡的 。

嗯 ， 它其实就是因为领先了 OpenAI 半年时间 ， 然后做了 Claude code 这个产品 ， 所以它积累了大量的数据 ， 然后导致它 coding 做的在这一段时间是比 OpenAI 要好 。OK， 然后甚至 OpenAI 缓了很久才真的是追平这个 coding 的水平 ， 所以有一个产品是 access 最真实数据的最好的方式 ， 这个肯定是没有之一的 。GPT-6 它也一定是买了大量的这个这些数据 ， 然后把它 train 进去了 ， 然后甚

至这里面也包括大量的人工的标注跟清洗 ， 它才有可能对真实世界的各种这个泛化性的表现 ，但我觉得就是非常有可能是有更大的这个模型 ， 然后它对这个物理世界的理解要强于一个 specific 的一个具身专用的模型了 。

但是这个跟把这个 GPT-6 直接用在具身上， 这是两个事 ，因为这里面要解决很多 Infra 延时啊 ， 然后包括嗯 ， 当然当然 ， 对对对 ， 跟本体交互的一些问题 。

对 ，但是如果我们单纯从智能这个事本身来说 ， 可能是这样的 ， 然后 maybe 未来的这个范式就是 GPT-6， 然后生成一个 Jeb， 然后再用 Jeb 去驱动这个模型 ， 对吧 ？

**曲凯** [1:01:25]
嗯 ， 所以你在做的过程当中， 你会担心说未来就是会有一个绝对智能的模型 ， 然后你现在做的所有东西可能都没有那么有价值 。

**马骁腾** [1:01:35]
我我不担心 ，而且我觉得我们是一直不停的去 benefit from 这个事情的 ， 就是我有一个假设 ， 就是这里面一共就两种情况 ， 对吧 ？

第一种情况是真的像你说的出现一个全知全能的 AI， 那我们这个世界将整个被摧毁掉 ， 然后所有的人价值都归零 ， 整个世界就会重新洗牌 ， 那那个时候会发生什么都不知道 ， 然后至少我们现在这些工作职业 ， 让这些东西全部都被粉碎掉了 ， 然后它会建立一个新的社会秩序 ， 很残酷的这个事情 。

然后第二种可能性是假设的反面 ， 就是不是有一个全知全能的模型 ，而是一个百花齐放的这个状态 ， 不同的模型它有自己擅长的事情 ， 不同的模型有自己不同的 taste 和自己的 preference， 然后他们能做的事情也不同 ， 服务于不同的行业 ， 服务于不同的个人。

那如果要是这样的一种情况的话 ， 这个世界将重新变得 colorful 起来 ， 它会重新出现一些更有意思的事情 ， 然后我不是不相信第一种情况会发生 ，而是我认为我应该为了第二种情况而奋斗 ，不应该是做一个把人类社会压到特别无聊的 AI，而是应该去做一个让这个世界变得 colorful， 让每个人的生活都变得有新的可能性的 AI。maybe 在短时间会有一些人失业 ，但是一定是有一些人通过这些新

的技术去找到了更有意思的自己想做的事情 。

Every hair on your head is counted.

You are worth hundreds of sparrows.

A tree you planted has become a falcon.

With karma causing harm and burns.

---

本节目库由 PodHood（https://podhood.com）提供支持——播客网站平台。
