文章 · 语言即世界language is world
独家对话英伟达刘洺堉:黄仁勋影响我的,你不需要击败所有对手
Cosmos、世界模型与中国武术。


作者:张小珺
每次见到刘洺堉,他都穿一件黑色夹克,背着一个有点旧的斜挎包。
现任英伟达研究副总裁的刘洺堉,是英伟达第一位从研究员擢升至副总裁之位的管理者,他领导英伟达最重要的模型项目之一——世界基座模型Cosmos。
刘出生于中国台湾,是金庸小说爱好者。18岁起,刘洺堉就师从著名的武术家徐纪(神枪李书文一脉传人),练习中国功夫,一直至今。最近他又有了一个ice plunge(冰水浴)的新嗜好。凌晨4点多,刘洺堉起床后会依惯例进行武术训练:一个人蹲桩、打拳。做完全套后,再只身跳进冰桶,帮助身体修复。
这种锻炼习惯与我对刘洺堉的印象截然不同——他看起来谦和,说话音量也不大。“中国武术最重要的是控制自己。”刘洺堉说,“我并不是为了展现强大的破坏能力。”
某种程度上,这反映了他以及他所代表的英伟达这样巨型的基础设施型企业的竞争观。
访谈中,他反复强调,他没有任何竞争对手,他没有和任何人竞争,所有人都可以是合作伙伴。
“什么叫战争呢?我没有打算把别人杀死。”刘洺堉说,“我们的心态不是说想把别人给杀死,我们的心态是我们要怎么去造市场。你懂我意思吗?”
“Jensen(英伟达创始人兼CEO黄仁勋)经常说,要造市场,而不是存量竞争。他讲我们就要做zero-billion-dollar business(从零到十亿美元的业务)——你可以不赚钱,但当这个生意成功的时候,必须是很influential(有影响力)的。不能说满足每年赚100个million(1个亿)——这种scale(规模)对很多公司都很大,但对英伟达而言,这是一个distraction(分心)。”刘接着说,“你要去解最重要的问题,产生最大的贡献。”
英伟达正在“造”的市场,即面向物理世界的人工智能(Physical AI),世界基座模型Cosmos被寄予厚望。这个项目从2024年立项,经过两年多已发布至Cosmos 3。Cosmos直属团队不到100人,虚线汇报规模是200至300人。黄仁勋对刘洺堉表达战略决心,称:“你就做到Cosmos 97。”
如今,刘洺堉已在美国生活20年,在英伟达工作10年,他仍然用一些朴素的东方智慧进行技术表达——比如,他把大模型比作中医,时常援引《孙子兵法》“备多则力寡”来思考世界模型的技术趋势。
本次访谈,我们详细地聊了聊Cosmos系列(尤其是前不久发布的Cosmos 3)、世界模型、物理世界的人工智能、英伟达的竞争观、组织哲学,当然还有绕不开的黄仁勋。
完整版可以收看我们的视频播客,你可以在小宇宙、Bilibili、小红书、抖音、视频号等全平台收看。
以下为访谈节选。
01
谈竞争
“我没有打算把别人杀死”
张小珺:你说,“模型竞争不应该是鱿鱼游戏”(《鱿鱼游戏》,比喻零和生存竞争)。你指的是,大模型竞争不是鱿鱼游戏,还是世界模型竞争不是鱿鱼游戏,还是说,只是对于你来说不是鱿鱼游戏?
刘洺堉:如果大家想解的东西一模一样,那就是鱿鱼游戏。模型竞争不应该是鱿鱼游戏。世界上要被解的问题这么多,可以提供价值的东西这么多,每个人喜欢的东西又不太一样。我觉得不应该把它看成鱿鱼游戏。
张小珺:每个公司都需要训一个自己的大模型吗?
刘洺堉:如果是commodity(通用商品),你每家公司要建电厂吗?就看合不合经济效用。早期你要做汽车工厂,当电厂不充裕的时候,你盖个电厂,可以确保你公司是24小时运行。但现在这时代,你可能不需要了。
AI开发者每个都觉得我的模型最好。我觉得这东西在历史上从来没发生过。因为人跟人相处没那么容易的。你看当初Dario Amodei(Anthropic创始人)跟Sam Altman(OpenAI CEO)就是合不来,对吧?他就走了。你确定在Anthropic每个人的信念都一模一样?我不觉得。莫非哪天你升了A不升了B,B会不会带一群人走,去做个类似的东西?
大家都能做,你有决心、有资源,你是可以做的。
张小珺:模型这场竞赛的终局可能是什么样?
刘洺堉:我讲这就很controversial(有争议)。模型的能力慢慢会统一,靠模型自己不会是区分,一定要靠一些其他东西组织在一起。
领先的模型有更充裕的时间找到这个区分方式,强大的公司也可以加大自己强大的ecosystem(生态系统),来做出一些变化。
像Software(软件)刚出来,会写Software的公司很少,现在大家都会写Software,现在能活下来的Software公司都有自己的区分方式。没有理由模型会是不一样,我觉得会是一样。
张小珺:在你看来,没必要神话模型或模型公司是吗?
刘洺堉:我把它当成中医啊。就是一个Black box(黑箱),这么多人不同尝试,之后就是一套学问,很多人都会从医嘛。关键是你要拿它干什么。
有些人解读比较深一点,有些人需要多一点时间。这是我的臆测。我觉得这些东西慢慢会diffuse(扩散)。
张小珺:对于你们来说,Cosmos所在的世界模型战场,是一场不能输的战争吗?
刘洺堉:如果有其他公司也做开源模型,就不是。什么叫战争呢?我没有打算把别人杀死。
张小珺:就是,我必须要own(主导)这个赛道,其他人长在我的生态上面。
刘洺堉:Physical AI(物理人工智能)是一个重大市场。现在家家户户都没有机器人,如果有机器人的话,我家可能会买两三个,每个机器人需要算力,等于整个世界对算力的需求大幅增长。这个事情如果发生,对NVIDIA是巨大好处。
我们的心态不是说想把别人给杀死,我们的心态是我们要怎么去造市场。你懂我意思吗?
CUDA(英伟达的并行计算平台和编程模型)就是造市场,造出了现在的AI市场。我们想的是怎么造出下一个大市场。
张小珺:那世界模型是不能输的战场吗?
刘洺堉:我觉得也不是,因为是全新的东西。我没有跟任何人竞争。
共利嘛——带着大家一起把那个市场建出来。你卖机器人赚钱,你做卡也赚钱,当然会有公司研发芯片,也会赚钱。整个市场就起来,原本是nothing(什么都没有)。
Jensen经常说,要造市场,而不是存量竞争。他讲我们就要做zero-billion-dollar business(从零到十亿美元的业务)。什么叫zero-billion-dollar business?就是现在不是个business(业务),但以后成功会变成billion(十亿美元级)。如果现在已经有人在做,可能就不值得做。
我们做东西需要make impact(产生影响)。Jensen喜欢zero-billion-dollar business——你可以不赚钱,但当这个生意成功的时候,必须是很influential(有影响力)的。不能说满足每年赚100个million(1个亿)。这种scale(规模)对很多公司都很大,但对英伟达而言,这是一个distraction(分心)。
你要去解最重要的问题,产生最大的贡献。
张小珺:这是一种拥抱风险,还是一种de-risk(降低风险)?
刘洺堉:我们做事的方法很risky(有风险)。CUDA那时候是很risky的一件事,等于赔本在卖。我们因为装了CUDA,整个GPU价格都比别人高,同样的Flops(浮点运算次数)就是比别人高,因为我们要支援programmability(可编程性)。
不做这件事,你的东西就渐渐变commodity(通用商品)。
02
谈边界
“希望具备number one的能力,但做出对世界贡献最大的事情”
张小珺:在英伟达从一名研究员升至VP,这个多见吗?
刘洺堉:我可能是第一个吧。
张小珺:你在英伟达的职位是“研究副总裁”,能不能给大家介绍一下这个职位、团队和管辖范围?
刘洺堉:我现在是研究副总裁,也是Cosmos Lab副总裁。我们团队由研究员和工程师组成,直属我这的有八九十人。
另外还有其他团队也在做Cosmos,英文叫dotted line(虚线)。虽然他们不直接向我汇报,但我是整个mission的overall pic(任务的总负责人),是发号施令的人。
整个做Cosmos的应该有200到300人之间。这是在英伟达很重大的一个专案。
张小珺:研究员和管理者的天性,某种程度是相悖的。你在成为管理者的道路上,有没有抑制一部分研究员的天性,带着镣铐跳舞?
刘洺堉:我还是一个研究员。常常读论文。我最担心在成为管理者的历程中跟底层脱钩,不理解问题核心所在。我会强迫自己审阅(review)代码,读paper,跟大家辩论,来确保方向是对的。
跟我共事的人都知道,我可能是少数还继续看代码的VP,继续会纠细节。我只是希望自己一直stay grounded(脚踏实地),看清楚一切。
张小珺:做出Sora的研究员之前就在你的团队实习。我听说Sora没有出自你的团队,让你很遗憾,是吗?
刘洺堉:也不是遗憾,我感到很开心,自己曾经一起共事过的人可以做出这么大贡献。
但一方面也会反思,我的决策中,哪些地方我没有看对,导致我没有在正确的时期做出正确的事情?——我是一个很喜欢自我反省的人,往往会试图理解怎么样让自己更好。
张小珺:说到Sora,为什么OpenAI后来把这条产品线基本上关掉了?
刘洺堉:Sora是一个重大的研究工作,它本身有许多应用。OpenAI是一个很有野心的公司,他们有大量人才。Sam Altman从他早期在Y Combinator就是一个投资者,他希望有这种投资者心态,希望公司内部有各式各样的project,有些project非常成功,有各式各样的portfolio。
过去一年,他们受到Anthropic巨大的竞争压力。他们看到Anthropic在Coding Agent上产生了巨大的经济效益,跟ChatGPT聊天产生的token数可能最多1分钟就生成完了,但Coding Agent可以工作24小时、48小时,这个token量非常大。他们觉得这是一个很好的方向,集中公司精力往Coding方向走。
《孙子兵法》讲“备多则力寡”。大家的资源是有限的,他们重新调整资源往Coding发展。
我不觉得他们认为Sora不是一个好的work,只是在这个时间点,他们公司有更重要的事必须要做,必须做出一个不容易的决定。
张小珺:像Anthropic、OpenAI这种前沿实验室,做研究天经地义,这就是他们的产品;但英伟达是基础设施公司,我卖算力给这些公司、实验室就好了,为什么还要自己做研究?
刘洺堉:基础设施要做得好,“做得好”的定义是适合应用公司来用。如果你自己不做这些应用,根本不能理解他们需要的。所以要去走他们可能会走的路,从中理解。
设计芯片、设计电脑架构的周期很长,不能马上改,需要很长一段时间规划。你要做这方面的研究,去理解什么是重要问题要解,才能设计出更好的芯片、更好的infrastructure(基础设施),来满足AI大公司。
我总觉得,如果每个有理想、有抱负的人都有这个工具,可以做出他们想做的事,这世界会是一个更好的世界。一方面看到OpenAI、Anthropic,还有中国几家大公司做出的突破,非常开心。但我们这个社会有源源不断有抱负的年轻人,我们也希望他们有机会。这是英伟达做开源模型的原因。
张小珺:你们的研究成果会跟客户有竞争关系吗?
刘洺堉:我们做这些,尤其是开源模型,基本是免费,放在网络让大家都可以运用。实际真正要落地、满足客户需求,还有很多东西要做。尤其在具身领域,好多硬件、商业问题必须要解。
我们给community(社区)一个讯号:我们从1代做到2代、2.5代、3代,这样一代代做下去,让大家更加预期英伟达在这会一直投资、进步。大家有这个信心,就可以把资源投在更重要的刀口上,做出重大贡献。
再有钱的公司,资源都是有限的。具身这么难,这么多东西要解,我们做出这些模型帮助他们分担部分压力——我不觉得在竞争,是帮助大家成功。
张小珺:你作为一个研究员,本能想做出number one(第一)的模型;而因为英伟达本身业务的原因,它不想成为客户强劲的竞争对手。如果两者发生了冲突的话,你会选择哪个?
刘洺堉:科学发展本身就是incremental(渐进式的),一直在进步,你随时随地都可以提出improvement(改进),往上再走一步。我觉得be the absolute number one(成为绝对的第一),什么叫number one?这很难去定义。我比较喜欢说是一个frontier(前沿)的模型吧。frontier的模型做出来的那一刻是number one,很有成就感,但之后就会有其他的模型可以做上去。
我是希望,你具备做number one模型的能力,但是做出对社会影响最大、最有贡献的事情。你可以做出number one的模型,但你只给少部分人用,或者让权力过度集中在少部分人手里,产生不平衡状态,不见得是一件对的事。
我是希望具备number one的能力,但做出对世界贡献最大的事情。
03
谈Cosmos
“我问Jensen要不要继续往下做,他说,你就做到Cosmos 97”
张小珺:你接下来长达10年,也许重中之重的一个课题就是世界基座模型Cosmos?
刘洺堉:对,我们整个组只有一个project(项目),就是Cosmos。做完Cosmos 1,我问Jensen要不要继续往下做,他跟我说:“你就做到Cosmos 97。”
我现在才做到3,所以还有94代可以走。
张小珺:为什么不是100,是97?
刘洺堉:数字是随口说说,但他的决心展现在数字上面。他认为这是一个重要方向,希望我们可以继续专注,去做Physical AI的foundation(基座),帮助整个领域往下走。
张小珺:为什么你们当时要立一个非常重要的项目,没有选择最主流的大语言模型,也没有选择像Sora这样的多模态模型,而是选择了具身的世界模型?
刘洺堉:大语言模型在当时发展得非常好了。我的背景不是大语言模型,是Computer Vision(计算机视觉)出身,自然而然一直在media、video徘徊。跟着我一起合作的伙伴也都是类似背景,背景决定了自己的道路。
NVIDIA也有大语言模型团队,Nemotron也越做越好,我这边主要想解一些更适合我来解的问题。
Sora当初出来也是一个World Simulator(世界模拟器),但那时主要应用偏创作,创作非常有趣,每个人都希望用更好的方式讲故事、呈现想法,就是具象化,帮大家理解看到的世界,这是很好的应用。
但那时我们也看到,Digital AI(数字人工智能)发展极快,同时社会很多问题需要physical tool(物理工具)满足。
比如,人年纪大就没法开车,生活品质降低很多,如果有自动车,年纪大的人还是可以有mobility(行动能力)。还有很多工作非常劳力密集、非常危险,如果有Physical AI的robot(机器人)可以帮忙做,可以改善人的生活。家里总是一堆琐事,要收碗筷、整理,不见得是你在家最想做的,有机器人可以帮忙,提升人的生活品质。
我们看到World Model(世界模型)可以对Physical AI产生贡献,就往Physical AI方向走,而不是走Content Creation(内容创作)路线。
张小珺:你在个人主页上说,你一直被一个愿景驱动,就是“为机器人构建一个黑客帝国”。能不能阐释一下这个愿景?
刘洺堉:我认为世界模型可以帮助Embodied AI(具身智能)做到generalization(泛化)。任何AI要解的问题都是泛化问题:能不能在训练数据之外也表现得很好?在coding(编程)、chat(聊天)里,都是训练模型去解它没看过的东西,变得像人一样。
Physical AI也不例外,要解的就是泛化。在Cosmos,我们想从三个点来帮忙:1、提供更好的数据;2、提供更好的起始点;3、提供更好的环境。
数据方面,你可以用生成数据,也就是synthetic data(合成数据)。数据是帮助AI模型更泛化的关键。你可以想象真实世界看到的数据只有这么多点,你能不能生成一些你需要看到、但真实世界没采集到的数据?这是更好的数据。
进一步,如果你可以训练出一个好的世界模型,它理解世界怎么运作、能预测未来发生什么事,那它本身的representation(表示)就不错,可以给Physical AI的Policy Model(策略模型)提供一个更好的bootstrap(自举初始化),从里面衍生你想要的policy(策略)。这是更好的起始点。
第三,人怎么在物理世界学习?只有实验、跟环境交互。但跟真实环境交互往往很贵,能累计的经验、时间有限。如果你可以用《黑客帝国》的Matrix(矩阵)方式,同时产生多个真实无比的环境,跟它交互、获得讯号,你就可以学得很快。这就是更好的环境。
三个里面,最具挑战的是更好的环境。我总不想在网页写得太长、像一篇essay(文章),所以用“黑客帝国”这个说法。
张小珺:Cosmos在内部具体是怎么立项的?
刘洺堉:大概2024年3月决定要做,就是在Sora(OpenAI的视频生成模型)之后。
张小珺:说服Jensen的过程难吗?
刘洺堉:那时已经不难了,之前要说服比较难,看到Sora之后就不难。他很聪明,一看就知道这东西对公司的影响。
他很有纪律。有些东西即使很重要,他也会叫你“pace your steps”(放慢脚步),让你不要急。他擅长打马拉松战,会一步一步往目标前进。
张小珺:为什么之前时机还没到?
刘洺堉:First mover advantage(先发优势)有好处,但每家公司定位不同,取决于你想解什么问题、怎么获利。我没有足够资讯来判断。但你看现在很多家公司都做得很好,做Video Generation(视频生成)最赚钱的应该是字节Seedance。所以这个轨迹很难说。到Sora的时候,我们觉得时机到了。
Jensen叫我们想名字。我那时已经知道最后他会提出更好的名字,有点拒绝,不想浪费力气想。但他坚持要我去想。我觉得有道理,因为这个名词跟产品定位相关。
你看我们叫Cosmos,是一个宇宙。
我们的目标不是产生content(内容)、不是为了创作,而是为了解物理世界的问题,慢慢往Physical AI前进。
那时已经陆陆续续看得出来,Physical AI会是下一个revolution(革命)。这是刚需:每个人都会老化,每个地方都缺劳动力,每个人都想提升生活品质。
另一方面,media(媒体)是走developer market(开发者市场),帮助开发者做出更好的产品。我们自己不会经营社群网站,也不会经营创作工具。对英伟达来说,那有点太to C(面向消费者)了。所以,我们决定要做一个为了Physical AI的世界模型,服务Physical AI这个community(社群)。
张小珺:今天大家对世界模型的定义还非常不清晰,你跟我们讲讲你对世界模型的定义吧。
刘洺堉:我是个很讲究实用性的人。人为什么会设计一个模型?因为它可以用。用法不同,模型形态就不同。
一种是为了预测:你设计一个模型来描述世界,经由这个模型predict(预测)接下来会发生什么事情。这是世界模型的一种目的。
另一种是为了understanding(理解):为什么这事情发生了?某种程度,整个物理学就是去建世界模型,从牛顿力学到量子力学,去了解世界怎么运作。
当然在Deep Learning(深度学习)里,我们把understanding变成用标注数据去教模型:这件事这样发生是因为那件事。然后用大量数据去泛化,帮助未来新的事件发生时,你经由看到的video(视频)讯号去解释,帮助人理解发生了什么。比如工厂里产线突然卡住,可能是之前某个工人忘记打开什么。这也是建世界模型的目的:为了理解发生的事、找到问题。
还有一种是重建三维世界:重建很有用,可以规划路线,可以让人虽然身不在这个真实世界,却在虚拟状态下游历这个世界。
因为用途不同,模型的形态长得不一样。但大家终究是在同一个世界,这些模型只是经由不同观察来描述同一件事。重建是很重要的学问,我以前做过,但现在已经不再做重建了。我现在主要做物理世界的understanding,以及物理世界的生成,也就是prediction这些。
张小珺:现在定义什么叫World Model(世界模型),就像几年前大家定义什么叫AGI(通用人工智能)一样,没有共同定义。
刘洺堉:对。有没有精确定义不是很重要。这个词太大、过于笼统,定义出来对人类有什么影响?
张小珺:为什么LLM(大型语言模型)是一个精确的词?
刘洺堉:LLM就是large language model,模型很大、做language,很明确。
世界模型就是一个可以帮助你去model(建模)这个世界的工具。因为用途不同,你model世界的方式就不一样。只要对这个世界、对这个模型有不同用途,就有不同定义。
张小珺:在你看来,世界模型能够描述Cosmos吗?还是有一个更精确的名称来描述你在做的事?
刘洺堉:我们一开始把Cosmos叫做world Foundation Model(世界基础模型)。
我们的目标是建立一个foundation,让大家都能建出适合他们要用的世界模型。我们把自己叫Foundation Model,希望我们是更底层的东西,满足大家。哪怕是一个要做世界模型的人,也可以基于我们的Foundation Model来做。
张小珺:英伟达同时也投资了Yann LeCun的AMI Labs和李飞飞的World Labs,他们都在做世界模型,你们之间是竞争对手吗?
刘洺堉:NVIDIA是站在enabler(赋能者)的角度。我们希望所有在NVIDIA GPU ecosystem(生态系统)上建立的公司都能成功,大家一起win win(共赢)。
每家公司看到的点不太一样,想解的问题也不一样。Fei-Fei的World Lab和Yann LeCun的AMI走不一样的路线,我们都帮助他们,也投资他们,跟他们有合作。
如果他们对我们的Cosmos有兴趣,也可以利用。其他家公司需要世界模型,但可能不像Fei-Fei或Yann LeCun资金雄厚,他们更需要帮助,可以leverage(利用)Cosmos。我们的目标是帮助整个领域成功。
张小珺:所以你们有竞争对手吗?
刘洺堉:我觉得NVIDIA的竞争对手,是跟NVIDIA做同样事情的公司,也就是去做整套AI ecosystem的公司。但我现在做Cosmos,是不想竞争对手的。我想的是怎么去帮助这个ecosystem。
在NVIDIA ecosystem里,用我们GPU、用我们运算平台、用我们软件的公司,如果都成功了,NVIDIA就会成功。这也会帮一些还没在我们ecosystem里的人产生信心。
我已经过了那个时期——为了毕业把论文发出去,非要证明我的算法比别人好——我现在目标就是帮助这个领域一起往下走。
04
谈Cosmos 3
“当Louis Vuitton减少陈列的货品数,反而sales提升了”
张小珺:从Cosmos 1到Cosmos 3经历了非常多的技术变化,在你们最早的两代Cosmos中,有没有积累一些know-how(诀窍/经验)?
刘洺堉:有。这是去年的工作,步调很快。开始做Cosmos时,我强调一个点:迭代快速。我那时深受DeepSeek影响,它是很惊人的公司,一年内迭代三次,产生DeepSeek V3。所以我一直强调迭代速度要快。
但我们挑战的题目是物理世界模型,尤其在2024年,大家还不是很清楚怎么样的世界模型对大家有帮助。我刚才讲的不外乎就是prediction或understanding:用video model去帮助predict future,用reasoning model去解释发生的事。
一开始我们跟一些伙伴合作,理解他们的需求,自己也有一些想法,做出这些模型,再跟伙伴迭代,慢慢收敛。从Predict未来,想到仿真环境是大家常用的环境,但它生成的video跟真实世界有一定差距,能不能用模型帮助它更逼真?于是做了Transfer(迁移)。为了解释发生的事,做了Reason(推理)。当时有三个方向。
后来理解到,如果你可以描述pixel(像素)是怎么变化,那这个pixel变化跟action(动作)变化很接近,所以我们做了一个叫Cosmos Policy的Policy Model。
再后来发觉,就像刚才讲的,这是同一个世界,不管从哪个角度看,model的都是同一个世界。模型就是在学一个internal representation of the world(世界的内在表示),也就是这个世界在做压缩过程中,学到怎么样的表示方式。
既然是同一个东西,那Foundation Model的核心概念是“纳百川”,可以从各式各样的data(数据)里学会这个模式。所以如果你把train(训练)Reasoning、Predict、Transfer、Policy用的data全部合在一起,模型的上限更高。
第一个,你描述同一个世界;第二个,Foundation Model把东西合在一起。所以我们就慢慢往单一模型走。
中间还有一个执行上的问题。我记得建第一版Cosmos时,自己算一算,因为要真的帮助到合作伙伴,我可能需要模型A、B、C、D、E、F、G…大概需要22个模型。
我跟Jensen开会讲,预计需要22个模型。Jensen觉得我工作非常认真,说“very good and very hard”。
但他又说:你知道吗?Louis Vuitton(路易威登)这家店,当它减少陈列的货品数之后,反而sales(销量)提升了。你不希望太多东西困惑消费者,让他没办法做决定。
那对我影响很大。
我理解了:连我自己都分不清楚要用A还是B,其他人更不清楚。再加上执行困难,每个模型出来都要维护、要解决问题。模型一多就很辛苦,备多则力寡,影响迭代速度。
在做Cosmos 2的同时就觉得这样不长久,决定要做单一模型的World Model,也就是Cosmos 3。
张小珺:最大变化发生在Cosmos 2到Cosmos 3。
刘洺堉:是的。Cosmos 1到Cosmos 2的变化主要是数据提升,还有一些变化,比如Cosmos 2的时候把parity(一致性)带进来。但我觉得Cosmos 2到Cosmos 3是一个很大gap(差距)。
Cosmos 3从去年10月开始做,刚好在Cosmos 2发布之后。更早的时候就知道必须做3,但那时还在收尾Cosmos 2.5。等2.5收尾之后才开始做3。大概是9月决定要做,真正执行是10月、11月,做了超过半年。
张小珺:一个中国做世界模型的创业者说,他看Cosmos 3论文看了一周,每天看。他觉得Cosmos 3在技术的大创新上并不多,但把很多细节都工程验证出来了。你觉得这个评价中肯吗?
刘洺堉:Mixture-of-Transformers(混合Transformer架构)之前也有人提出,Parity Model(一致性模型)之前也有人提出。我们是第一个把这个Mixture-of-Transformers scale(规模化)到这么大,把audio、video、action都合在一起。这些东西从概念上来讲就是“合在一起”,但真正做出来不容易,真正做出来就是这些细节。
所有的大语言模型都是Transformer架构,你可以讲大家都没有创新,但那些细节会让某些模型比另外一些好很多。
这么多年后,我越来越重视这东西能产生的效果,越来越不重视它是不是革命性原创。对我来讲,它有用、产生impact(影响力)、解掉大家想解的问题,才是重点。
这篇paper我们希望帮助整个开源社区,做开源模型,帮助整个Physical AI。这几年很多Frontier Lab(前沿实验室)走向闭源,即使写paper也不愿意讲关键环节。我们决定走不一样的路:把能讲的东西尽量讲清楚,开源模型,也开源训练框架,部分训练data也开源了。
我们希望保持透明,让大家看到怎么做,也希望别人可以利用我们开源的东西,做出跟Cosmos类似的东西。我们的目标就是enable(赋能)整个community。我不担心别人做出一模一样的东西。
张小珺:你刚刚提到DeepSeek,选择开源跟它有关系吗?
刘洺堉:不算直接关系。DeepSeek的工作对整个AI影响深远。它第一个把MoE开源,最近的模型又把东西逼到极致,对整个领域产生深远影响。从影响的角度,我觉得是相通的:我们也想产生影响,把细节讲出来。
我们的目标可能跟DeepSeek不一样,我们希望帮助我们的使用者成功。
张小珺:在Cosmos 3的模型技术选择上,你们首先在输入层同时输入language、video、audio和action,这是一个重要的技术决策吗?
刘洺堉:是。我觉得这个世界不是只有视觉,也有听觉。我也想加入触觉,但触觉讯号还不好,touch sensor(触觉传感器)还在快速迭代,这需要灵巧手,需要数据。
大模型思路基本有两个:一个是让language成为first class citizen(一等公民),像coding、chat那样;另一个是让video成为first class citizen(一等公民),像Seedance、Veo(Google的视频生成模型)那样。我们认为Physical AI的模型跟数字世界模型最不一样的地方,就是物理世界的Agent(智能体)会take action(采取行动),会改变世界状态。
所以一个好的物理世界Foundation Model,也要把action当成first class citizen。这就是为什么我们把language、video、audio和action合在一起,建Cosmos 3。
张小珺:我记得杨植麟(Kimi创始人兼CEO)去年跟我说,他们做大语言模型把language当作最重要的智能提升工具,会很担心vision加入进来影响智商,变成一个“傻的多模态”。但谢赛宁(AMI Labs联合创始人兼首席科学官)今年又跟我说,他担心language对vision的污染,觉得language才是人类的脚手架,并不本质。
你怎么看待这两种观念?你把它们都训到一起时,会产生相互污染的问题吗?
刘洺堉:这些讯号带进来都有它们的目的。language可以把人类知识带进来,也帮助人类跟Physical AI沟通;video是大量视觉信息,audio是大量听觉信息,描述世界怎么运作,用video可以更精准capture(捕捉)这个世界的物理运作,用language反而很难。
但模型最后建出来是要服务人的,不懂language就没办法跟人沟通;模型最后是帮助机器take action的,不懂action就没办法改变世界。
我们的目的不同。我的目的是希望这成为一个好的Foundation Model for Physical AI,它需要懂language,需要知道东西怎么变动,也需要action,借由这个control(控制)把它们合在一起做。
我的目标不是追求AGI。AGI本身也很难定义;当你定义的AGI纯粹是要了解人类本质,或者去做coding时,视觉信号可能会影响你,那是必然的。
你可以讲,遥远的古代没有language,人类文明发展是经由看世界怎么变动而产生。language毕竟是发展给人类的,但你不知道机器接不接受这一套。也许你可以直接从video讯号里学会世界怎么运作,得到一种intelligence(智能),发展出另一个文明。从这个角度,language讯号也许是一种干扰。所以要看你要什么。
我很明确知道我要什么:我需要language让人可以跟Physical AI沟通,需要video和audio从物理世界的变化里学会物理本质,需要action是因为它最后要能fulfill a goal(完成目标)去改变世界。
张小珺:所有模态融合到一起,这些模态是相互benefits(受益)的,还是相互制约的?
刘洺堉:在过去一年甚至更久,我们一直在研究这些模态的融合。从各个不同研究里得到一些线索,在Cosmos 3时把它们结合在一起。
比如在Cosmos Policy那篇工作中,我们发觉把video和action合在一起是帮助action的。当你直接predict action,也就是做world action model(世界动作模型)时,除了predict要做什么action,也predict take这个action之后会产生的state(状态)、observation(观测),会帮助你训练得更熟练。所以我们知道predict video是帮助action的。
audio也可以帮助video generation。当你知道“咔”一声,碰到的点就是接触的时间点,所以audio和video是互补的。
一般做video的人都知道,从text到video是讯息量变大的过程,需求变大,代表有很多种可能性,方差大就不好学。所以大家会发现,当文字描述非常详尽时,比较容易产生好的video。所以language也可以帮助video。
Cosmos 3想把之前的Cosmos Reason、Cosmos Predict、Cosmos Transfer、Cosmos Policy合在一起。合在一起本身就有好处,整个东西都简化了。这些讯号怎么合在一起,让它产生互补而不是互相抗拒,可以经由experiment design(实验设计)和data ratio(数据比例)的调整来达到。我们那时候坚信这一点。
这些信号都是描述同一个世界,都含有这个世界怎么运作的信息。应该有一种方式让它们合在一起,互相帮助,更多的信息能帮助你了解背后的运作原理是什么。因为这样的信念,我们就从这个方向出发。
张小珺:这里面有什么secret sauce(秘密配方)吗?尤其是在互相受益上。
刘洺堉:做大模型没什么秘密配方。就是严格做实验,根据假设做实验,看到结果,累积知识,再做下一个实验,一步一步扎实地往下走。我不觉得有什么不可告人的秘密,关键在于你追求的是什么,然后耐心做实验、验证,对了就继续下一步。
张小珺:你们这次采取的是一个双塔(tower)设计,一个塔在处理离散信息,一个塔在处理连续信息,为什么采取这个设计?
刘洺堉:有很多原因。一开始,Cosmos Reasoning(推理模型)就是离散的,从视觉语言模型(vision language model)出发;而预测迁移策略(predict transfer policy)是连续的。我们知道离散的适合理解(understanding),连续的适合生成(generation),把它们放在一起,是现阶段很合理的选择。
再者,有很多种使用Cosmos的方法,但常用的是做后训练(post training)。比如用你的视频-动作对(video action pair)来训练生成器(generator),或者你只想用推理(reasoning),只用你自己领域的理解数据来训练。
如果我们全部连在一起,生成和理解就绑定在一起了。那我要换生成分布(generation distribution)的时候,因为全部连在一起,你的数据也会改变理解那边的表现。如果没有两个塔,只有一个,那理解那边既然要改变,而你的数据又没有理解数据,这部分能力就很容易流失,不方便客户使用。所以分成两个塔,在使用上有一定帮助。
虽然这样不够elegant(优雅),因为你要事先决定架构,让数据来形成依赖关系,而不是人为区分。但在这个阶段,我觉得这个设计比较合理,比较适合使用。
讲到这个,大家也可以猜出来,我们下一步目标是更加简单一点——为什么要两个塔?一个塔就够了。
但是在往一个塔前进时,我们要考虑用户是不是容易用上它。因为我们的目标是帮大家赢,而不是自己产生一个可以做很多事情的模型。我们相信每个机器人都不一样,相机数量、位置都不同;自动车也每个都不太一样。我们觉得需要克制,即使合在一起追求工程的简约完美,也要考虑使用者是不是有办法利用它。这是我们必须要研究的课题。
张小珺:相对来说,离散的信号更好处理,融合进连续变量之后,处理难度会变高。你们怎么把它们合在一起,并且scale(规模化)上去呢?
刘洺堉:对。现在有一系列工作像Transfusion(融合模型),它可以同时处理离散和连续的数据。在做下一词元预测(next token prediction)时做离散的,在做扩散(diffusion)时做连续的。这是同一个塔。这段时间有很多种不同的变体,大家都在研究这个,是大家共同关切的问题。
这些信号可以用离散表示,也可以用连续表示。我希望是不是能开发出一种架构,全部离散或者全部连续,让事情相对变得更简单一点。但这是一个理想,不确定能不能成功,要一步一步做实验验证往下走。
张小珺:直觉来看,全部离散更容易,还是全部连续更容易?
刘洺堉:各有各的好处。离散比较好做训练,连续有它漂亮的地方。在做推理(inference)的时候,它们两个是很不一样的形态(shape)。最关键的是,客户还是要部署,部署时成本的考量很重要。所以,最后会根据什么样的模型最适合部署来决定。
张小珺:有一个研究员问你,你现在是把所有模态都训到一个模型里,理论上它既可以把编程(coding)做得很好,也可以让机器人运动,还能够生成创作者内容。那它有可能在单一维度,比如说在编程上,比Claude还要强吗?
刘洺堉:我还是喜欢讲《孙子兵法》里说的,“备多则力寡”。
如果你什么都要好,训练中就要博学多闻,要触碰很多不同类别,来提升知识水平。但如果你确定只需要用单一应用,是不是可以有些调整?因为你不care(在意)其他东西了,有些东西你愿意放弃。如果你什么都不愿意放弃,会打得很辛苦。
策略往往就是关乎着,你决定可以放弃什么东西。
张小珺:除了模型会变得更简洁,双塔有可能会变成一个塔,还有什么在未来模型中大家能预期的变化?
刘洺堉:我们很关注这个模型怎么去帮助Physical AI的构建者(builder)。
泛化(generalization)是任何AI的核心问题。在物理世界的AI,一种我们需要达到的泛化是:假设我今天教机器人说,我的衣服我喜欢这样折、这样放,我就给机器人看一两次我怎么做,它是不是就可以在现实生活中快速学会?是不是给这个物理智能读了说明书,它就知道怎么操作这个仪器、怎么在工厂做检测?我们中间的提升会朝着这些提升泛化能力的角度,把这些东西加进Cosmos模型。
我常常觉得,Deep Learning就很像中医,是试出来的。试的过程中,你要做详细实验记录,从里面去理解中间的法则。我觉得这很有趣。做严格实验、控制变量、得到关键结果,是模型迭代的重要一步。
张小珺:也有研究员提出,是不是可以把模型的语言渲染比重加得更大,他们还是认为LLM是提升智能的关键,你认同吗?
刘洺堉:在早期图像生成(image generation)研究中,包含谷歌的Imagen,里面就提出了:当你的语言理解越强,用更大的T5(文本到文本转换模型),图像生成能力就更强。我是相信的。你用更大的语义表征(semantic representation),应该有帮助,我是同意的。
但毕竟Physical AI的应用跟大家常讲的编程(coding)或者聊天(chat)不太一样,需要做一些实验验证。我想做的是了解真正的痛点,从痛点找到合适的方式补强模型能力。比较有挑战的是,当你资源有限的时候,你怎么做取舍。
“备多则力寡”——老祖宗的智慧还是蛮管用的。
张小珺:世界模型现在缺乏有效的评估方法,你们有一些好的探索吗?
刘洺堉:世界模型、大语言模型,都在追求更好的评估检测方法。
模型的评测有三步:第一步是基准测试(benchmark),有一些固定的数据集(dataset),你去上面测试它的质量(quality);第二种是竞技场式(Arena style),A跟B比,看谁比较好;第三种是跟着专家(Expert),去真正有痛点的人那里,解这个问题。三个都很重要。
在Physical AI里,第三个特别重要。因为每个Coding Agent大家都在解编程、数字的问题,但物理智能每个要解的问题又不太一样。更加强调跟愿意一起合作的伙伴,一起去了解怎么样评估一个模型真正有用还是没用。这是指引模型发展的重要一步。
张小珺:除此之外,物理世界的数据问题也是一个大难题。
刘洺堉:因为物理智能每个形体都不太一样,收集数据没有物理设置(Physical setup)就没法收集。英伟达更困难,因为我们要服务各个物理智能的开发者,每个机器人都不一样。我们能做的就是找最容易共通的。
物理智能数据主要有两种:一种是导航数据(navigation data),从A到B;另一种是操作数据(manipulation data),怎么用手或者工具去操作、完成既定目标。
导航数据比较容易做,就是你的运动学怎么动、车子怎么动、机器人怎么动,这些都可以收集。机器人A跟B即使不一样,但动起来就是在空间中位移,有时候可能加一些旋转,是比较相同的。
操作就比较复杂。我们发现一个趋势:大家越来越追求接近人手的机器手臂。
论点是说,人类的世界是建出来给人类用的,大部分工具都适合人手操作。整个AI需要大量数据,如果你的数据越好取得,你就越容易更快得到突破。所以大部分收集数据的是人,人就是用手。今天大家往人手的方向前进。
我们在Cosmos 3的时候,特地把第一人称视角(ego-centric)数据加进去,包含了人眼怎么看这个东西、从第一人称,还有人手怎么去操作这个物件。我们的目标不是去做出一个机器人,而是帮助大家可以做出很好的机器人,我们要找最容易互通的东西。第一人称视角(ego-centric)对大家非常重要。
张小珺:在所有的限制和局限之下,英伟达做世界基座模型有显著优势吗?
刘洺堉:在英伟达,获得GPU运算的成本比较便宜,毕竟我们生产GPU嘛。再就是我们在Physical AI已经深耕多年了。我们有Thor芯片,有Isaac仿真器。这些东西合在一起,我们提供更多工具满足各式各样物理智能开发者的需求。
还有一点,我们真心想帮助其他家公司成功。
我们很清楚自己能提供的服务在哪。客户往往比较愿意跟我们一起合作,因为我们不会跟你做一模一样的东西、把你灭了——不是,这不是我们的目标。
张小珺:针对Cosmos系列模型,你们未来会投入多少卡和资源?
刘洺堉:一直在提升中。我不知道方便不方便讲卡的数量,但我们已经在万级,希望可以有更多更多。
张小珺:Cosmos 3让你满意的一点是什么?让你遗憾的是什么?
刘洺堉:满意的一点是,我当初跟大家讲可以把过去所有模型合在一起,还会做得比全部之前的模型都要好,这发生了。那时很多人不相信,我很开心。
第二个是,这是我们第一次把整个团队,原本是建造数个模型,现在合在一起建一个模型。把这么大的一个组织凝聚在一起去建这个模型,我也很骄傲。
遗憾是什么?我们的模型还可以继续提升,但因为时间限制,没有让它完全收敛就必须要推出了。还有很多想要改的地方,之前没时间改。好处是,我们继续会做3.1、3.2,把之前没做好的补进去。
张小珺:你有没有想象过,像Jensen说的,做到Cosmos 97会是什么样子?
刘洺堉:那时候听到97代,我的理解是我们有决心一路把它做下去,把它做好。这是一个很大的commitment(承诺),因为做这个模型很耗费资源。
世界模型,最后就是接近这个世界。
透过那个模型,你可以去学习你想在真实世界里学习的东西,就是往那个方向走。最接近的是,你有能力随时做出一个《黑客帝国》的矩阵(Matrix),就是最终的样子。
如果每半年一代,还要四十几年,对吧?但AI发展极快,也许不需要四十几年。
05
谈《黑客帝国》
“Pain and suffering,是驱动人进步的关键”
张小珺:你说你要为机器人构建一个黑客帝国,《黑客帝国》讲的是人类沦为机器的活体电池,活在一个虚拟世界Matrix中,一个觉醒的人试图挣脱系统的宿命,来终结这个循环。
你现在为机器人打造Matrix,如果有一天机器人要觉醒了,想要挣脱虚拟世界怎么办?
刘洺堉:我用《黑客帝国》是帮大家具象化,有一个世界模型可以这么快去加速学习。很多人担心AI能力太强,会take over the world(接管世界),会把我们消灭(eliminate)。那我觉得这个社会是人建立的,这些科技是人在背后操作。只要大家有共识,这件事不会发生。
再就是,比较哲学一点,我觉得pain(痛苦)和suffering(苦难),是驱动人进步的关键。我不是很确定这些由芯片做成的智能(intelligence),是不是有同样的pain和suffering——我心里是存疑的。我当然知道我们希望科技可以大幅改善人类生活,也需要做出相对应的guardrail(安全护栏),确保它不会影响正常世界发展。
张小珺:虽然你一直在说我不是任何人的竞争对手,但其他做世界模型的团队,仍然会把你视作竞争对手,你有什么想对他们说的吗?
刘洺堉:世界模型是工具,用来解决问题,世界上有很多种不同问题要解。物理智能的问题本身又特别难。如果你可以跟我们一起合作,利用我们做的东西,你可以走得更快更远,这不是很好的一件事吗?
张小珺:他们肯定会说:哦,英伟达又想来卖我卡了!
刘洺堉:对(笑),那你需要做运算嘛。英伟达生态在这里,有很多东西可以让你去利用,why not?
你做生意都是要做投资的,重要的是你获利多少。像这些云计算公司(cloud company),他们买了大量的GPU,但赚了更多的钱,对吧?
张小珺:你们内部会讨论什么是下一个CUDA吗?有可能是Cosmos吗?
刘洺堉:核心上,过去的软件是建于逻辑,CUDA是帮助把这些应用(application)所需要的逻辑转换成GPU运算。未来的软件是以AI为核心的,AI是built on top of other AI(建立在其他AI之上)。所以我们觉得做的Nemotron和Cosmos,都可能是未来的CUDA。
张小珺:外部会对CUDA有非常多复盘,从你的视角看,CUDA是怎么成功的?需要具备哪些要素?今天的Cosmos具备的是哪些、不具备的是哪些?CUDA是一个可复制的路径吗?
刘洺堉:我不确定是不是可复制。CUDA当初提出是很前瞻性的想法,是个很冒险的想法。在都不确定超级计算(Super Computing)会不会成为big thing的时候,我们公司做出了勇敢的投资。我们做的大模型都得惠于CUDA,可以往下走。
CUDA一开始就是在寻找应用(application),一开始是科学计算(Scientific Computing),后来在深度学习出来之后,找到CUDA最重要的应用,往下走。CUDA还是一直在提供各式各样的应用。
我不会把Cosmos或Nemotron跟CUDA做同等的连接,因为我觉得现在整个发展相对复杂很多,有很多个不同的,整个产业是很多个栈(stack)合在一起的。我觉得合在一起可能是新的CUDA,而不会说这个模型单一就是一个CUDA。你还需要做服务,还要去做这些基础设施,有很多东西要合在一起。
复制CUDA是一个很好的想法,但我不觉得按照原来的路线,会走一样的路。环境是不一样的,需要adaptive(适应)。
张小珺:我也想聊聊大语言模型的进展,你怎么看中国的这一批模型的发展?
刘洺堉:Very impressive。在美国,尤其Frontier Lab,现在的状态是很少招收实习生。很多knowhow、科研结果都只有在他们内部的实验室有。
在中国,这些公司都招收很多实习生,帮助把knowhow传递出去。对人类整个知识扩增、diffusion(扩散),是好事。
张小珺:谢赛宁跟我说“硅谷已经被LLM催眠了”,你怎么看他这个观点?
刘洺堉:我不觉得纯粹被LLM催眠。不能否认,现在模型上最领先的公司,都是从大语言模型出发。我现在已经不知道没有Coding Agent,要怎么过下去,实在太方便。LLM产生了很大的用处,提升我们的生活。
很自然而然,大家会想,这东西既然都已经在这里了,下一步是什么?
张小珺:前段时间SpaceX(美国太空探索技术公司)上市,马上OpenAI和Anthropic也要上市,这会对整个行业发生什么样的影响吗?
刘洺堉:2026年会是巨变的一年,会产生很多富翁,旧金山的房价在快速飙涨。但科技不会停在这里,陆陆续续会有新的事情发生。100年前强盛的公司,跟现在强盛的公司完全不一样。这些人也许会帮这个世界创造下一个里程碑。
张小珺:对于今年和明年的模型竞赛,你有哪些预测?
刘洺堉:ChatGPT moment for Physical AI is coming(物理智能的ChatGPT时刻即将到来)。
张小珺:端侧模型会多久之后爆发吗?
刘洺堉:这跟Physical AI很相近。
张小珺:刚才你谈了中国的模型公司,那中国的机器人公司呢?
刘洺堉:美国做本体的公司很少,就Tesla跟Figure AI。做本体可控制的东西更多,可以控制模型跟软硬体的整合,操作空间更大。因为中国强大的制造业,让产生一个很优势的条件,让这些公司做一些在美国不容易做到的事。这很值得去关注,这样的垂直整合会产生什么样的一个突破?还蛮有趣的。
张小珺:美国现在不那么重视硬件,这有没有可能是错的?
刘洺堉:也很难说。但如果这种软硬体整合是机器人的趋势,没有硬件当然处于被动状态。有点难讲。有好多东西要考虑,包含金融模式。中国有这个条件,让大家快速软硬体整合。
06
谈黄仁勋
“Jensen常常在嘴边讲,公司只剩下30天现金流”
张小珺:今年,你刚好加入英伟达10年了,这10年你变化大吗?股票涨了多少倍了?(开玩笑)
刘洺堉:这些都是没有预期到的。
我们见证从没有人把AI跟英伟达连接在一起,变到全世界都把英伟达跟AI连接在一起;从我父母亲不知道什么叫英伟达,到全世界都知道什么叫英伟达——这是很巨大的变化。
中间的历程不是那么容易。我们公司从股价就有起起伏伏,我记得那一年TPU刚出来,公司股价掉了很大一截。有些同学在那时对公司未来产生了不同想法,离职了。但后来我们每年在MLPerf(机器学习性能基准测试)都击败TPU,产生出更好的性价比,后来只有我们参赛了。这些东西都很难预测。
这些变化实在很大。我更加理解到什么叫“慢慢经营”:找到一个你相信的目标,非常First Principle(第一性原理),一步一步往下走。看着Jensen带着这么大一个团队,一步一步走向今天这个成绩,与有荣焉。
张小珺:过去10年,Jensen变化大吗?
刘洺堉:头发都白了。
他承担的压力大了很多,但他还是非常关心员工。很仔细去阅读公司员工写的top 5 email(五项优先事项邮件),去找一些信号,帮助整个公司往前进步。
公司规模变化很大。我们加入时,公司不到2万人吧,现在两倍以上,可能更多。那时GPU都还是desktop(桌面电脑),现在都是data center(数据中心)。那时没有Physical AI,现在物理智能都成为一个重点了。
张小珺:过程中,你有见证英伟达经历过哪些pain and suffering(痛苦和磨难)?
刘洺堉:Jensen常常在嘴边讲——当然不是真的——他每次都讲,他每天都觉得公司只剩下30天现金流,30天后就要破产。现在还这么说,每次都这样讲,每次开会都是这样提醒自己。
张小珺:吓唬高管吗?
刘洺堉:就是要求自己做出对公司最正确的决定。
有一年疫情,整个经济状况很不好,那个时间很多公司开始裁员。我记得公司大会,就决定要裁什么——我们要裁的是差旅,员工就不用去出差了,全都线上,这样省下一笔钱。
我们再研究哪些工具可以不要。比如在硅谷,很多公司用Slack(企业协作通讯工具)做通联,我们考虑是不是就不要Slack了,反正我们有email。我们有两三个cloud(云),有时用Microsoft,有时用Google,是不是可以取消一个,可以省钱。
公司在一些困难时期,做出一些相对不平凡的决定。有些公司会用裁员降低人事开销,但英伟达想的是怎么节省掉一些不必要的开销,照顾员工,一起度过困难时期。
张小珺:为什么NVIDIA一直有不裁员的惯例?
刘洺堉:我在英伟达的时间,没有听到任何裁员消息。
我们没有所谓的末位淘汰,只有绩效评估(performance review)。有些人会因为对绩效的不满而离开。但我们不会因为改变了产品的方向,或者因为这段时间内你绩效不好,就让你走。
人与人之间的信任很重要。当一个员工对公司有认同感,有安全感,他愿意讲出在一般担心被淘汰的地方不愿意讲的事情。当没有末位淘汰,大家也不会真的这么担心被淘汰而强出头。在一个强出头的地方,反而不容易促成团结合作。
这样的管理模式会促成一种公司文化,跟那些做末位淘汰的公司蛮不一样。
张小珺:不裁员带来的弊端,是什么?
刘洺堉:缺点是,当一项科技逐渐成熟,员工需要一点时间学习新的东西做转型。重新学习新东西需要多点时间。
如果直接lay off(裁员)再hire(招聘)新的一批人,你可以直接hire到一些已经会这些东西的人。经由转型做会慢一点,但你得到的是员工信任,以及可以团结合作。
张小珺:组织效率对你们来说是问题吗?
刘洺堉:大家只要充满热情,觉得自己做的东西很有意义,效率就会提升。
英伟达是一个想长久经营的公司。Jensen在硅谷待了这么多年,看到这么多风风雨雨,他选择这个东西一定有他的道理。这不是随机的选择,而是深思熟虑后觉得,这就是他想要的企业文化、他想要的公司运作模式。
张小珺:那是不是意味着,当新技术来临,英伟达不会是最快调整的那个?它更依赖于早10年或者早5年的提前布局?
刘洺堉:NVIDIA就是跑马拉松,看得远。你看CUDA就是这样一个案例,布局了10年。
张小珺:你们也不赛马,对吗?
刘洺堉:我们不喜欢赛马。我们通常是这样:你去take这个mission(承担这个使命),我们就相信你,但我们会给你很高的bar(门槛),希望你完成。
用Jensen的话讲,就是一直让你接受pain and suffering(痛苦与磨练),torture you to greatness(磨练你直到卓越)。相信你、给你考验、不断地磨练你,让你一路一步一步往下成长。这是我们喜欢的模式。
张小珺:英伟达的书也好,Jensen的传记也好,讲述了许多英伟达的管理方式,你能不能从更切身的视角来讲讲英伟达独特的管理模式?
刘洺堉:第一是不裁员。
第二是top 5(五项优先事项)。员工要讲他做的最重要的五件事,让你看清楚公司里的大小讯号。两个团队在做一模一样的东西,那top 5 email就会自然显现出来。NVIDIA是很透明的组织架构,苹果可能是反例。我们追求资讯透明,这也是一个很不同的culture(文化)。
我们常常讲mission is the boss(使命为王)。英伟达有时候像是一个有机体,没有那么强的框架。当公司今天要走向这个方向,各种不同组织的团队,就会自动align(对齐),往那个方向前进。像一个活的组织,不是一个固定框架。Cosmos就是这样子一个案例。很多人不属于这个团队,但都可以来支持这个团队的工作。
Mission is the boss,而不是你的boss是你的boss。
这几个是最具有特色的,让公司变得很活——我刚刚讲的mission is the boss,不是一个很硬的框架,是个有机体。Top 5让公司各个地方的微小讯号可以扩散。不愿意轻易lay off员工,讲究转型,讲究torture,让员工对公司加强信任,可以彼此互相合作。这几个都是英伟达很独特的地方。
张小珺:Jensen对你个人有任何的影响吗?
刘洺堉:非常大的影响。他是个工作非常认真的人。我早期加入英伟达,他常常会传论文给我看,叫我写summary(摘要)给他,帮他讲清楚是什么事情。
他是一个非常热爱学习的人,一直学、一直理解。他当初也不懂Computer Graphics(计算机图形学),却敢踏入GPU领域,把Computer Graphics学起来;他也不懂Deep Learning,却敢踏进AI,把它弄懂。
他有一套自己的决策法则,叫First Principle(第一性原理)。他会把事情的本质理清楚,不受外界信号干扰,所以看得很清楚:哪个方向最make sense(合理),就往那边走。他在早期就敢all in Deep Learning,让公司获得巨大领先;也敢all in CUDA,为公司打下很好的foundation。
认识Jensen之前,我自己的决策偏短期。看到他怎么做长期决策、怎么坚持,对我的影响非常惊人。
他是一个很理性的人。事情很多的时候,如果你不会做prioritization(优先级排序),不把时间放在重要的事情上,就不会做出重要的事情。决定哪些事情很重要,本身就是一件很重要的事。
我自己是这样推想的:他强迫自己读邮件,强迫自己快速判断什么是重要、什么是不重要。在每天不断练习之下,他把事情看得非常清楚。而一旦看清楚,接下来就只是执行。
很多人执行会把个人情感放进去,比如“这虽然不重要,但我跟那个人不错,是不是应该让他去做?”他不会。
他的目标是take care of(照顾好)整个公司,只要一直做对公司最重要的决定,你就会留在公司里面,他就会take care of you。
我学习他怎么去做prioritization。这件事让我印象非常深。我以前当researcher时,可能同时处理两三个项目就觉得好累,每天要换两三个topic。现在我几乎每半个小时换一个topic。我以前无法想象自己做这件事,但这种不断context switch(上下文切换)的状态,也帮助我更理解什么东西比较重要。
还有一个体会:如果你学过Computer Science(计算机科学),最重要的一件事情就是”懒惰”——不用算的东西不要算,可以晚算的东西晚算,可以直接ignore(忽略)的就全部ignore。人生时间和精力都有限,如果你知道什么东西不要算、把它移除,人生运用就更有效率。还是很值得去学Computer Science,不要因为AI就不做Computer Science。
张小珺:你近距离观察过Jensen 10年,如果只用几个词来形容他,你会怎么形容?
刘洺堉:我们叫他,“六边形战士”。
我们有时候开会,他可以走到很深去研究register(寄存器)、computer architecture(计算机体系结构)的register,非常细的细节;同时间又可以教大家怎么做marketing(市场营销)、怎么做这些非常high level(高层面)的东西;在处理产品定价、跟客户的关系上,他面面俱到。
他是极大的热情。He gives everything he has to help the company be successful(他倾尽所有帮助公司成功)。
张小珺:他对你鼓励更多,还是批评更多?
刘洺堉:都有。当我还没有完全理解他想要怎么去run这个公司的时候,批评比较多。但批评中总是带着鼓励,希望你可以变好。他的目标就是torture everybody to greatness,经由这些磨练,让你更加理解怎么样做才能做出不平凡的事情。
这很耗精力的。你愿意花时间去torture(磨练)别人,是件不容易的事情。torture别人,你自己心里也要产生很大的负担。你人生就这么多时间,你可以不管。但是他愿意花时间去torture别人,让大家不断进步。
张小珺:他让你印象很深的一句话是什么?
刘洺堉:有一次我们在一个会上,在比较两个solutions(方案)。我是做其中一个东西的人,另外一个是其他人做的东西。那时候我讲了一句话:我觉得他们用的setting(实验设置)是一个不公平的setting,所以导致我们在这方面表现没有达到预期,落后于竞品。
他那时候给我一句话说:“Are you a quiet baby(你只会闷声抱怨吗)?”
这世界上没有什么是公平的。你在写论文的时候,常常讲说我的setting就是跟你的setting不一样,所以不能同时比较。但你的目标如果是要解决一个问题,你当然是做这个要解决的问题所需要的条件,没有这个条件,你就想办法拿到。
那句话让我印象很深刻,我更加严格要求自己,找理由是没有用的,就是要give everything you have(倾尽所有)。我以前也听过这句话,西点军校有一些著名的书也是讲:没有理由、no excuse(没有借口)。
但他跟我讲,让我的印象更加深刻,毕竟他是一个著名的人物。我后来就不再找理由了。
张小珺:为什么其他公司说CEO不应该是最努力的人,但你们公司CEO是最努力的人?
刘洺堉:对。是。这我也不懂,哈哈哈。但it works(这很有效)。
07
谈自我
“我并不是为了展现强大的破坏能力”
张小珺:你看你今天说了很多:你没有竞争对手,你不和任何人竞争,大家都是合作伙伴。这种low ego(低自我)的状态是在英伟达发生的变化吗?——这真的是low ego,还是一种隐藏?
刘洺堉:我觉得是一种confidence(自信)。是觉得我们做出来的东西可以帮到大家。
我的目标是帮助大家做好。我对自己做的东西要求很高,希望它变好。但是,我的目标并不是击败对手。
张小珺:你个人有过high ego(自我膨胀)的时候吗?
刘洺堉:年轻的时候是会的——总觉得我的算法最好,我写的paper(论文)最漂亮,总会这么觉得。
我受到Jensen的影响很深。如果你是一个研究员,你毕业的方法是让你的论文在顶级会议上被接受,reviewer(审稿人)都会question(质疑)你:你的东西是不是state-of-the-art(最先进水平)?你要state-of-the-art就代表说你要击败所有的人——研究员都有这种心态,我的东西要比你强。
循着这个轨迹,我一开始也是一个highly competitive individual(竞争意识很强的人),我东西要做的比你好。但久了之后,你知道,你总是state-of-the-art,一段时间下一个就出来了,这东西是一直不断进步的。
我今天站的位置也不一样,成为这个管理者之后,希望培养新一代的人才,帮他们成长。站在NVIDIA这个ecosystem(生态系统)的角色,看到我伙伴们跟我讲,用了一个模型之后,解决问题的效率提升了很多,我就很开心。我觉得我的付出、团队的付出,得到了回响。
不见得是要击败其他人才能产生贡献——你不需要击败你的对手。
或者说,我不喜欢把他们当成是对手,喜欢把他们当成是伙伴。
张小珺:对于现在的你来说,很多外部衡量指标变得没有那么重要了?
刘洺堉:对,年轻的时候觉得它们很重要:为什么这个人的best paper(最佳论文)比我多,奖比我多。现在觉得,我的重心渐渐转移:帮助别人。也许我现在care(在意)的是帮助人够不够多。
张小珺:最近一年你帮助了谁?
刘洺堉:这些使用Physical AI、使用Cosmos的user(用户),我都在默默之中给他们提供了帮助。
张小珺:过去几年,你的生活状态发生变化了吗?
刘洺堉:更高效了,早睡早起。我4点到5点起床,10点到11点左右睡。不是每天固定,但是我的常态。
我早上起来,运动时间比较连续。我很喜欢运动——以前喜欢团体运动,打篮球、打网球。我有一个很大的兴趣:中国功夫,练了很多年,从18岁就一直练习。
我的武术老师是徐纪,他的老师是刘云樵,刘云樵的老师是李书文,就是“神枪李书文”,沧州武术家的代表。他的八极拳、劈挂掌对整个武术有重大贡献。
武术是很好的身体锻炼,对心智磨练、体力都很好。它还有一个好处:只要一个人就可以做。我早上起来会做武术锻炼,自己训练、蹲桩、打拳。
我最近还有一个新嗜好,叫ice plunge(冰水浴)。像运动员一样,做完激烈运动后跳进一个冰桶或冰冷的水池里,帮助身体修复。这也帮助我保持精力,去面对每天高强度挑战。
张小珺:这和我对你的印象蛮不一样——我见你,感觉你是一个非常谦和的人。
刘洺堉:是。但我学武术的目标不是为了打架。一开始是受金庸小说影响,对中国武术充满兴趣。学了之后发现,这是对自身的一种磨练。
中国武术最重要的是控制全身、控制自己。你要打出一拳,最大的力量来自全身协调,把力量从脚一路灌到手。这么长的路径,你要控制全身协调,让力量传导循序渐进、一步到位。这很难——因为都在一瞬间发生。所以,需要经由不断练习、不断自我修正。这跟我喜欢一直自我检讨、追求进步,有很深影响。
我并不是为了展现强大的破坏能力——它是一种对自己的追求。
张小珺:嗯。我还有一些快问快答。全球范围内一个你最喜欢的食物?
刘洺堉:牛肉面。
张小珺:全球范围内一个你最喜欢的地点?
刘洺堉:我喜欢湾区,天气太舒服了。
张小珺:你有什么喜欢的音乐、书、电影或游戏吗?
刘洺堉:书蛮多的。Jensen(黄仁勋)推荐的书,讲Positioning(定位)的。我忘记书名叫什么,很有趣的心理学书,让你更理解问题的本质是什么。
我特别喜欢金庸小说,体会金庸各式各样的幻想,很美的意境,把我推向了学中国武术的道路,从中国武术得到历练。
张小珺:对于年轻的研究员,你会有什么建议?
刘洺堉:不要紧张。对自己有信心。冷静下来。
现在年轻研究员都往往觉得会不会明年AI就结束了,AI自己训练自己了。我觉得也(应该)看清楚,什么地方是值得你投入精力的,不要被大家的宣传影响,觉得路越走越窄。
现在研究员进入Physical AI是一个好时机。除了Physical AI,还有其他很多地方值得摸索。AI的进步,让我们可以做出更好的material(材料)、更好的药。各行各业都可以渐渐看到AI的影响。
张小珺:我们工作室叫语言即世界工作室,当你第一次听到这个名字的时候,你在想什么?
刘洺堉:用语言来描述这世界上发生的有趣的事:)
张小珺:在人工智能的历史上,你希望后人怎么来记录你?
刘洺堉:不要讲我吧。
希望Cosmos是一个重要的推手,帮助几个重要的Physical AI builder达到ChatGPT moment——这是我会很开心的一件事情:)
---
还有大量的内容,只有视频播客和播客有喔:)
收听播客
