锐评国模与 Neo Lab,畅谈 RLaaS|42章经

· 2026-11-15 21:00 · 1 阅读

原创 曲凯 2026-11-15 21:00 湖北

模型即服务、模型即产品

骁腾是 Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习。

本期播客原文约 21000 字,编辑整理后约 6400 字。

编辑整理:陈皮

曲凯:你怎么看 Mind Lab 的这些争议?

骁腾:创业肯定不要回避讨论和争议,有人讨论,才说明被看见了。

我一直想做的都是模型训练,通过 RL 做真正有用的事情,所以后来加入 Mind Lab,做后训练实验室。

我更希望把 post-train 理解成互联网时代的推荐系统。它是项底层技术,至于上面长出来的是西瓜视频、抖音,还是今日头条,可能不是现阶段特别需要考虑的。作为 researcher,我也没那么关心最后表现出来的样子。

曲凯:所以你追求的还是模型训练的效果、最后交付的结果?那为什么没有首选去 AI Lab?

骁腾:我非常喜欢创业,把它当作一种生活方式,而不是奔着一个目标,一定要干成什么事。我很享受这个过程。

这可能和做了很多 RL research 有关。RL 里一些基本概念,已经变成了我的人生哲学。

曲凯:我们之前和吴翼录过一期播客,Ta提到过一句大家特别喜欢的话:人生本身就是一场强化学习(回顾:一堂「强化学习」大师课 | 42章经)。

骁腾:是的,我觉得创业最符合 RL loop:你可以不断收集真实经验,更新自己的 value 和 policy。大厂的信息和探索空间比较局部,而我需要更多 exploration。

曲凯:大家一般觉得,能训好模型的人应该在 AI Lab 做过。但你没有这些经历,模型做得不错,市场也认可,这是为什么?

骁腾:我有在更大集群规模上做模型的经验,这也源自我痛苦的读博经历(笑)。大概从 2018 年开始,我就在一万核 CPU、一百张 V100 的集群上,做大规模对战训练。虽然大模型训练会带来新的挑战,但本质和我读博时做的事情没变化。

曲凯:你有什么特别的学习方法吗?

骁腾:我感觉自己的泛化能力、通用性比较强,喜欢尝试各种东西,这也和 90 分的哲学有关。

我在博士期间做过很多 RL 项目,也和不同老师打过交道,获取到的各种 insight,可能可以形成一个更 meta 的抽象。

曲凯:我在想,一个领域做到 90 分后,再往上涨的边际收益很低。但如果能在其他领域做到 20 分,把这部分和 90 分的部分交叉起来,可能就会有加法,甚至乘法的效果。

骁腾:是的。我想起读博时去叉院交流,有段时间很绝望,感觉 research 做不过那些同学,也找不到更好的研究角度。

我去找老师聊,老师和我说,每个人经历不同,就会有不同想法,这就是 research 的魅力。我后来也意识到,不是一个人聪明,就能做出所有研究,而是之前的经历给了 Ta 启发。

那因为做得杂,我确实经常能从奇奇怪怪的地方找到启发,再用到另一个领域。这也影响了我们做 post-train 的想法。我希望 AI 能被塑造成多样的样子。

曲凯:一直有个说法,就是国内 RL 的水平没有跟上,真正做得好的人比海外少很多。这是客观事实吗?

骁腾:各领域最 top 的人都少,但其实国内有很多优秀的 RL researcher。

后验来看,国内 RL 的差距,可能在于硅谷的 RL researcher 更早参与了语言模型的训练。以及国内缺少熔炉式的环境,比较容易「立山头」、贴标签,说你是做 RL 的、你是做 CV 的。但其实大家做的事情本质上都是把知识训进模型。

曲凯:你觉得现在中美两边模型的整体进展怎么样?

骁腾:美国肯定是 OpenAI 和 Anthropic 非常领先。他们更早开始做数据和大规模强化学习,卡也多。之后可能是比较 top 的一些大厂,Meta、Mistral 这些也在追赶。

我觉得 1T 以下模型的训练,已经有了比较成熟的 standard recipe。差异更多在于怎么组织更多数据、提高模型设计效率,让模型 scale 到更大。OpenAI 和 Anthropic 可能在这方面仍明显领先。

曲凯:过去几年国内追上了很多,但最近 GPT-5.5、GPT-6 Astra 发布后,似乎差距又被拉开了?如果要卷更大参数、更多卡,国内是不是持续有劣势?怎么追?

骁腾:我对国模是短期悲观、长期乐观。

短期悲观,是因为蒸馏变难,追赶速度会慢下来。

长期乐观,是因为中国有两个追赶的点。一是国产算力。明年我们可能和最领先的卡还差一截,但会变得能用;而是数据组织能力。我觉得中国团队在这方面远强于美国,连美国很多大厂的数据工作也是中国人在参与。

但这里的变数,在于训练范式会不会有大的变化。OpenAI 可能已经在尝试新范式了。

不过从产业看,不必太担心。大多数场景还用不上 1T 以上的模型,几百 B 的 Flash 模型就能解决大量办公任务。模型差距,更多反映在制药这类最前沿的领域。

曲凯:传闻美国已经在追求 30T 量级的训练规模了,但这些数据到底从哪来?很早大家就在说,数据已经不够用了。

骁腾:数据肯定不够用,但这主要说的是公开互联网数据。

现在预训练、中训练会用蒸馏等方法补充数据。以及大家追逐的更多是专用领域的数据,比如 GPT-6 在 Blender 上的表现明显变好了,可能就是用了对应的数据去训练。构造这类数据很难,但不是做不了,我相信国内版本也会追上。

让我有点担忧的是,Anthropic 在通过暴力收购的方式来获取公司内部的未公开数据。价值有多大,我觉得它自己也未必完全知道,但能看出它的决心。

还有一点,就是在企业、真实生活场景和 To C 应用里,还在产生重要数据。这些数据未必流向预训练厂商,也是我觉得 post-train 会很有价值的原因。

曲凯:那蒸馏越来越难,后面是不是更要拼卡、拼资源?国内会不会还是大厂训模型更有优势?

骁腾:大厂肯定有资源和运作优势。但实际结果是,这两年无论中国还是美国,做出最好模型的都不是大厂,而是 AI 创业公司。我觉得这里面肯定有些本质的东西,比如今年我们可以频繁看到大厂在重组。

曲凯:包括裁员…

骁腾:对。举两个具体例子吧。

千问在林俊旸离开前,公认是第一梯队的主流模型。但后来发生了一系列变化。最核心的问题是,当千问的账单摆到集团面前,集团就要看 ROI,考虑怎么转化实验室产出、优化财务。模型是太耗钱的庞然大物,所有大厂都会遇到类似的问题和顾虑。

再比如,据说在 OpenAI 推出 ChatGPT 之前,Google 内部就有类似的东西,却担心影响广告业务,没有放出来。

所以大厂有一种原生的向心力,会阻碍突破性创新。有篇很好的文章叫《The Cost of Staying》,就讲到了这件事。

但大厂未必也是模型技术竞争的赢家,在商业上却未必输。它们依然可以通过股权、出售算力,把资源置换给创业公司,赚足够多的钱。

曲凯:但就像你说的,训练方法已经不是秘密了,那大厂是不是还是更有优势?

骁腾:也不完全是。从头走一遍标准 recipe,搭起和最好模型团队一样的团队,还是费劲、耗资源,大厂可能觉得没必要。

而创业公司做不出好模型就会死,必须 all in。它们在数据的长期积累和清洗上也有优势。所以我还是觉得,大厂可能在这场模型竞争里集体失败。

曲凯:但你看,腾讯就很典型:先观望,到某个时刻 all in 砸钱,招最好的人,给钱、给卡、给相对独立性,理论上应该能很快追平开源模型的平均水平?

骁腾:腾讯选顺雨,我觉得很幸运,也很有魄力,给了他很多权限。混元做得确实不错,但还不能说是最好的模型。

以及腾讯也参与了 DeepSeek 的投资,那站在腾讯的角度,它要考虑的可能不是怎么实现 AGI,而是未来的新业务用什么模型最好,是长期和 DeepSeek 合作,还是用自己的混元?这还是个问号。

曲凯:那我们做个思想实验:假设从智谱、Kimi、Seed 各找一个在自己领域有八九十分的人,组成新公司,能不能半年做出追平它们今天水平的模型?如果不能,差在哪?

骁腾:有可能,但操作难度非常大。这样做的成本显著高于直接用现有模型,也很吃卡和生态支持。以及如果你花半年时间才能追上今天的水平,那半年后,这些厂又往前走很远了。

曲凯:明白。那下一步,国内模型公司核心要拼什么?

骁腾:还是 Infra 和数据。

Infra 上,要做模型架构和基础设施的 co-design,让模型能适配最新的卡,甚至专门为未来国产卡做设计。在这件事上不断提高效率,可能弥补很大一部分算力不足。

比如 DeepSeek-V4.1-Flash 就采用了 causal encoder–decoder 架构。我觉得未来也许可以让 encoder 在国产卡上做 prefill,decoder 在英伟达卡上做 decoding。

数据上,关键是能不能集中资源,在科学发现等最前沿领域有所突破。

曲凯:所以卖数据的公司,未来几年可能仍是最赚钱的一批,只是数据形式和领域会变?

骁腾:现在数据已经转到「环境」的语境下。有高质量标准答案,可以直接做 SFT,或把更强模型的输出蒸馏进去;没有标准答案,就得有题目和环境,让模型在里面试。这时环境就特别重要。

曲凯:所以国内外模型,你分别最看好哪家?

骁腾:国外最看好 OpenAI 和 Anthropic。如果非选一个,我更看好 OpenAI。我了解的情况是,它的新模型在预训练阶段,对 harness 和 reasoning 的结构做了一些调整,而 Anthropic 似乎还没跟进。

国内显著看好 DeepSeek,它几乎 all in 在 infra 和模型的 co-design 上。训练过就能发现,它的设计很紧耦合,能明显看到它在 infra 上的智慧。我们加 LoRA,甚至会破坏它原来最佳的平衡点(当然,也可能是我们还没做到极限。

这些设计能把价格降下来,支撑更多 token 使用,也可能拿到更多数据,加速 RL 训练。

我也比较喜欢 GLM。它没有那么多花哨创新,但很实用,也认真做数据。我们接触的几家里,它的数据生产线应该最完善,质量最高。

曲凯:所以智谱最务实,DeepSeek 在 infra 上做得最好,Kimi 比较 fancy?

骁腾:Kimi 比较喜欢创新。

曲凯:这么讲,MiniMax 是不是也有类似问题?

骁腾:MiniMax 在我看来是信仰不够坚定。它一度走了很有特色的 Linear Attention 路线,但后来没有一直坚持。

曲凯:它一开始可能是最重视产品和应用的公司,不够坚定 all in AGI,正好和 DeepSeek 相反。

骁腾:对,这有顺序和 timing 的问题。DeepSeek 现在又在建产品团队。模型做好了,商业化、产品化是顺水推舟的事情。

而 MiniMax 有点搞反了,先做营收、追求上市。它确实已经上市了,但这牵扯了大量精力,可能影响了它今年的模型竞争。

其实在蒸汽机时代就是这样了,应该先有技术,再产品化、推广运营,把结果拿回来迭代技术。

曲凯:诶,我突然想到,国内外最好的模型,很多都是创业公司做出来的,但为什么字节的 Seedance 能这么成功?

骁腾:显然是数据好,以及有明确的场景支持,也配了足够的算力。

但 Seed 决定做好 Seedance,就得切出一部分卡,不去做语言模型。我不能说这一定是 Seed 语言模型失败的原因,但肯定有这个因素。

对比看,OpenAI 当时关停了 Sora,把资源更多转向语言模型。Sora 其实当时做得不错,如果坚持到今天,表现不一定会比 Seedance 差。

曲凯:我们再谈谈 Neo Lab。国内这半年到一年出了很多这样的公司,但海外更多讲的是垂直领域、新架构的方向,差异化更明显,而国内很多在讲世界模型、RSI 这些本来就在模型主线上的方向。你怎么看这个生态?

骁腾:首先,我理解的 Neo Lab,不是只发 paper、申请基金的实验室,而是要实打实做可能商业化的事。不尝试商业化闭环,我觉得就不是 Neo Lab。

所以我们成立时就讲 research-product co-design,从实际场景反推研究,用有没有用、而非能不能发论文判断工作。

只有有用是重要的。

但很多 researcher 都在犯一个致命的问题,就是善于造锤子,却喜欢拿着锤子找钉子。其实应该先想好,钉子是什么。

曲凯:所以美国很多 Neo Lab 选垂直领域,可能也是因为更容易落地。

之前我们播客和美国红杉都提过,下一代 Neo Lab 是今天的应用公司。那模型和产品该并列走,还是有先后?

骁腾:一定要先做 research、做模型,再做产品。

曲凯:为什么?如果为了落地,应该先知道用户需求,先有问题,才能提供解决方案吧?

骁腾:非常好的问题。我觉得要先有个产品原型,推向市场,但不急着做大规模增长和投流。用它收集真实数据,做研究和实验;等实验 work 了,再扩展场景,发现新问题。这是我心目中最理想的闭环。

曲凯:明白。现在很多人提到 Neo Lab 都会下意识反感,就觉得太讲故事,却没能交付结果。

骁腾:我也讨厌只有故事的公司,但人容易被 Neo Lab、RSI 这些新名词吸引。

所以我们虽然对外讲 Neo Lab,但内部追求的是 research-product co-design,做扎实工作、交付结果。也不怎么讲 RSI,更多讲自动训练、自动部署,减少训练模型的摩擦。

曲凯:我理解。我们做媒体、做 FA,也知道公司有时没办法。大家都讲 Neo Lab,你很难另辟蹊径解释自己在做什么,别人也会给你贴标签。

骁腾:别人怎么看,我觉得不重要吧。

曲凯:既然提到 RSI,你觉得这件事离实现还远吗?

骁腾:我个人感觉,RSI 现在完全是个宣传口号。它和过去的 prompt engineering、context engineering、harness engineering,没什么本质区别,只是重点变了。RSI 强调的是,模型训练和迭代里,AI 的比重越来越高。说白了,就是在高速迭代的 infra 上,做自动化数据 pipeline,让模型自己找数据、造 verifier,再回来训练。

但我不太相信最后完全不需要人。有两个原因。

第一,reward 很难完全由模型自己设计。人需要什么,才是 AI 的准则。比如 Karpathy 接受采访时也提过,Anthropic 很难让模型独自迭代写作,因为它没法判断写得对人是不是友好。

第二,AI 很难独自解决数据获取问题。一个很直观的例子是,制药公司的机密数据不在公开网络,AI 又没有手脚做实验,怎么完全自我进化呢?

曲凯:明白。回到 Mind Lab,你们现在做 RLaaS、帮公司训练模型,和之前的 Neo Lab 叙事矛盾吗?算转型还是延续?

骁腾:完全不矛盾,我们一直希望 AI 从真实环境里学习。

帮客户训模型这件事听着像外包,但我们把它看作和客户一起做 research,同时交付价值,形成商业闭环。

客户有真实场景和数据集,也有金融、医疗等领域的各种新 query、尤其是用户的负反馈。怎么用这些数据持续构建环境、训练模型,是很重要的研究问题。

曲凯:美国有很多公司做类似的事。我也感觉,各种中间层公司都在自己做模型、算力相关的工作,这背后的原因是什么?

骁腾:本质是模型即服务、模型即产品。

模型仍然决定着体验的差异,而前端、harness 都没那么重要。就像大家记得会赤兔这样的名马,却没记住一个名鞍,因为马鞍都差不多。

所以大家都会想办法把模型做好,只不过区分是哪些自己做,哪些交给别人。

曲凯:我也研究了一下美国 infra、RLaaS 的生态,感觉谁拿到更多卡,就能做更多事。国内好像缺少这个生态链里起决定性作用的一环?最后是不是大家会比较散地打?

骁腾:就我们做的后训练项目而言,目前还没卡在算力上。它比预训练省很多,有些项目甚至不需要最新的卡。

国内的卡点,更多事理解、接受这件事。就像过去大家说中国 SaaS 不如美国,是因为大家接受服务的意识不够一样(笑)。这个转变需要时间。

曲凯:什么样的公司最适合和你们合作?

骁腾:我们会看两个维度:技术理解,以及收入、PMF。前者决定了客户有没有自己的 benchmark,知不知道往哪优化、什么叫训得好。

典型客户有两类。

一类是已找到 PMF 的创业公司。现有模型已经能服务他们的场景了,接下来要提高效果、适配用户、降低成本。这类公司往往有 benchmark,新模型出来也都会测一测效果。

另一类是垂直、传统企业。这其中懂技术的相对少,要识别其中已经实际落地、后训练真能带来价值的公司。

我觉得后训练要由行业头部公司先做深、做透。头部公司验证之后,其他公司可能跟进;但如果连头部都感受不到价值,大概率这个行业就不需要这件事。

曲凯:所以做后训练、做自己的模型,核心意义是什么?是降成本,还是提升某个领域的表现?

骁腾:两个都有。纵轴看模型在自己 benchmark 上的表现,横轴看成本。后训练要么提高表现,让曲线往上走;要么降低成本,让它往左移。

曲凯:现在做这件事大概需要多少钱?

骁腾:我们按 token 定价,和算力消耗挂钩。按我们的项目经验,在 DeepSeek-V4-Pro、GLM-5.3 这类模型上,做一轮训练迭代可能要几万元,一个项目下来大概几十万到一百万元人民币。

曲凯:那成本其实非常低了。不过如果后训练越来越标准化,成本又不高,那头部公司为什么不自己组建团队去训?

骁腾:两种方式都会有。自建团队成本高,而且要把训练做对、做快,还要控制成本,其实挺难的。如果业务用小模型就够了,确实不需要找我们;训练较大的模型,采购外部服务会更靠谱。

曲凯:明白。你最近最关心什么问题?

骁腾:持续学习。前面谈的很多研究,都是沿着既有的标准流程在走。那在这之外,有没有新的突破?

我觉得最重要的是,给模型一个储存长期记忆和 taste 的地方。

举个例子。AI 读论文比我快多了,但它读完 300 篇,能不能形成 insight?因为我读了 300 多篇后,会有一种「悟了」的感觉,再来一篇就能很快抓住要义。虽然记不住每个细节,但显然是把我的 taste 压缩到了某个地方。

那么我觉得模型还缺一个储存、积累这种 taste 的好办法。它可能是轻量、可迭代的单元,类似 LoRA,但需要新的更新方式,处理更长期的记忆,让学习更高效。据说 Ilya 也在想这些问题。

曲凯:明白。最后,你会不会担心,未来有个绝对智能的模型,让你现在做的所有事情都没那么有价值?

骁腾:不担心。我们一直从模型进化中受益。

我们极限推演一下,未来有两种可能:

一是出现全知全能的 AI,世界被摧毁,所有人的价值归零,一切重新洗牌,很残酷;

另一种是百花齐放,不同模型擅长不同的事,服务不同的行业和个人,让世界变得多彩。

我不是不信第一种可能,但更想为第二种奋斗。我不希望把人类社会变得特别无聊,而希望让每个人的生活有新可能。在这样的未来里,短期也许依然有人失业,但也会有人借新技术,找到更有意思、自己想做的事情。

42章经

思考事物本质

跳转微信打开

本文转载自微信公众号「42章经」,查看原文。版权归原作者所有,如有侵权请联系删除。