最近两周读完了《英伟达之道》和《英伟达之芯》。大模型人工智能在今天能这么火爆,除了辛顿等神经网络科学家的坚持之外,更重要的是以英伟达为代表的算力芯片的发展,英伟达是成立于 1993 年的科技公司,从视频游戏的图形芯片到并行计算的算力芯片,它是怎么起步的,又是怎么做到持续创新的,GPU 发展的历史又是怎么样的,这些是我阅读这两本书的初衷,下面从我关注的焦点来写下这两本书的读后感。
1、为什么创业
英伟达有三位创始人,普里姆、马拉科夫斯基、黄仁勋。前两位原本在 Sun 公司设计图形加速器,而黄仁勋在 LSI 公司负责协助制造芯片。1993 年,因 Sun 公司内部存在政治斗争,普里姆和马拉科夫斯基开始考虑创业,然后他们俩叫上了之前合作过的黄仁勋,普里姆是技术极客,黄仁勋能搞定技术之外的其他事情。
当时黄仁勋在 LSI 有稳定的管理岗位,并且 LSI 的创始人很器重他,让他管着年收入2.5亿美元的部门。从《英伟达之道》里透露出来的细节,普里姆没有家庭压力,且很技术 geek,更早的想出来,而另外两位创始人则有些犹豫,特别是黄仁勋。黄如果不是在 LSI 出现管理摩擦,他大概会继续待在 LSI。书中没有细致的介绍他在管理下属时遇到什么摩擦,"摩擦"这个词甚至有点轻描淡写。从黄仁勋当 CEO 后的风格可以看出来一些端倪,黄仁勋简单直接、以身作则的要求下属勤奋努力、非常执着的要做成事情,而他又不是老板,他无法以一位打工仔的角色去塑造公司的奋斗文化,他也无法让下属获得更多的收入,并且这些下属跟着老板的时间可能比黄仁勋还长,和黄仁勋可能也没有建立信任感,下属心里会抵触黄仁勋的做事文化。为了解决摩擦,老板从外面挖了一位资深管理者和黄仁勋共同管理该部门,黄仁勋非常不满,觉得是政治操作,促使了他的离开。
总的来说,当时图形芯片出现了机会,同时因为自身向上发展遇到了困难,所以他们选择创业。如果不是普里姆和马拉科夫斯基发起创业,如果不是在 LSI 的上升受阻,黄仁勋大概率不会选择联合创办英伟达。
创业需要满足三方面的条件:事、人、钱。在开始创业之前,普里姆已经有图形芯片的设计方案,几位创始人也已经到位,就还差钱。他们的创业得到了 LSI 老板科里根的支持,为他们引荐了红杉资本,但投资人并不看好他们当时的项目,普拉姆太技术与市场脱节,而黄仁勋当时还没成长起来,无法说清楚市场在哪里,但投资人相信这里有市场,并且相信科里根的眼光,所以投资了他们,据此,黄仁勋得到一条经验:即使你的商业计划书写作技巧并不好,但你的声誉会先行一步为他人所知。在吸引工程师方面,也体现了这一点,创业初期就有几位 Sun 公司的高级工程师加入,可见普里姆也有不错的声誉,以及 Sun 公司留不住人才。
- 技术极客普里姆离开公司
通常来说创始人出现矛盾,很容易导致团队内乱,但在英伟达却不存在这个问题,普里姆离开的时候只管理了几个人的小团队,普里姆是技术很牛的人,但不是一个善于团队协作、善于带领团队获得成功的人。
书里讲述了普里姆在某个阶段粗暴的把代码视为自己的私人物品,不顾团队协作和研发流程,导致他管理职级逐步下降,引发了他的离职(1998)。但本书其他内容,早就隐晦的表达了普里姆和黄仁勋不是一路人,做事的风格完全不同,这样的人很难在黄仁勋的公司里生存。有几个例子:第一个例子是他们做的NV1(1995年推出),普里姆不顾市场需求搞了技术创新,导致项目失败,当然这时候黄仁勋估计也不够成熟,他没能提早看出这里有问题,到了NV3(1997年推出)的时候,普里姆还想坚持用创新技术,导致黄仁勋和普里姆公开的大吵架,黄仁勋赢了,公司度过了第一个难关。第二个例子是在打造 NV1 的时候,deadline 将近,而普里姆在工作时间打游戏,打得很好,引得围观者惊呼,这种工作没有 100% 投入的状态,让黄仁勋很愤怒。
在《英伟达之道》里对普里姆还是有一些正面评价的,譬如他研发的通用框架,使得芯片升级可以更高效,但《英伟达之芯》则较少有正面评价。他的做事方法很自我,这很难作为公司的管理层,甚至都不是一名合适的创业伙伴,而另一位创业伙伴马拉科夫斯基则介绍得较少,显然也不是后面公司成功的关键角色,更突出黄仁勋非常的重要。
- 黄仁勋的个人特质
他自己说:"愿意并且能够付出比常人更多的努力,同时能够忍受比常人更多的痛苦"、"伟大和聪明无关,而是来自品格"、"成功需要韧性"、"经历足够多的痛苦与磨难"、"期望值很低"
我看完本书,觉得:非常努力、持续学习、有韧性就是他最突出的品质。几十年如一日的长时间工作,持续的学习新知识,在遇到困难时能乐观的坚持下来,这些事例展现出了他的品质。另外,他还有一些特质,很强的社交能力,很强的求胜欲望,强势的管理者,很强的目标导向。
- 成功的关键基因
**(1)非常努力的工作。**黄仁勋本人就是工作狂,在他带领下的整个公司都有这种风气,并且内部员工快速的滚动,只有那些努力工作且有能力的人才能留下来。当然,要让整个公司的人都对工作狂热,除了筛选那些愿意拼搏的人之外,还需要公司能持续获得成功,并且能让员工分享公司成功的收益,这点英伟达做得很好。
**(2)长期主义和及时捕获趋势。**持续做图形渲染,做了几十年,推出 CUDA 以及后续的 cudnn,再往后从 RNN 转向 Transformer,都是长期主义和捕获趋势的体现。在行业还没开始的时候就做好准备,在行业出现变化的时候,及时转向。
**(3)合适的大团队管理手段。**英伟达创立的契机大公司内的政治斗争,这些经历想必让黄仁勋也会有意的避免公司出现不顾公司利益的内斗。他采用的"扁平化"、"信息透明"、"项目制"、"白板文化"、"使命才是老板"、"五大事项",可以有几个方面的价值体现:一是让有能力的人跳出来负责项目,而不拘泥于组织架构;二是强迫管理者也必须深入一线,不能只做汇报,避免尸位素餐;三是 CEO 深入一线,确保做事方法得到执行,同时保持 CEO 对市场的判断力。
- 小公司的成长之道
(1)做大公司不屑于做的产品。
太阳微系统公司和硅图公司在英伟达创立时属于大公司,他们更愿意做高利润的工作站,而不愿意做低利润的 PC 市场,这给了英伟达机会。做大公司不做的方向,一直是各家小公司的生存之道,譬如 10 多年前投资人常常问的是"腾讯做不做?",只要腾讯做了,其他小公司就没什么机会,小公司的资源很难和大公司竞争。
这几年形势又有一些变化,当资金不再是决定性因素时,小公司在组织效率、人才密度上可以做得更好,譬如这阵子很火的 DeepSeek 就超过了国内一大批大公司。大公司和小公司在产品和技术的竞争上,表面上看是一家小公司对抗一家大公司,实际上是一家小公司对抗一家大公司里的某一个团队,一群创业者对抗一群打工人,在组织效率和人才密度上,小公司完全有机会胜出。英伟达成长的过程,也是这方面的典范,它的组织效率更高,做事更快,中后期也挖来了大量的行业牛人,并形成人才规模的马太效应。
(2)避免陷入政治斗争而犯错。
当普里姆在 Sun 公司提出图形加速器方案时,没有得到创始人的支持,在政治斗争下他出局了,导致了英伟达的创立。大公司的创始人很少能像"黄仁勋"那样还持续在一线做事的,脱离一线的创始人蜕变为职业经理人,很容易不务实。譬如 Sun 公司就陷入了大公司病:比拼打动高管的 PPT,而不是比拼创新想法。
为了解决"大公司病",这几年看到一些大公司里奇特的解决手段:禁止 PPT,改用 WORD 文档,好像 PPT 是万恶之源。强调团队要年轻化,必须是年轻人才能晋升,好像换上年轻人当管理的团队就能打胜仗。我想病根子不在于呈现工具,更不在于团队年龄。尽管用 WORD 意味着有更细致的细节(类似黄仁勋的白板文化),意味着管理者要更深入一线;尽管年轻人升得快意味着团队没有僵化,认功劳而不是排资论辈,但更本质的点在于要求管理层保持能在一线打战的心态、要让有战斗力的人脱颖而出,我认为英伟达的扁平化、项目制才是更好的解决思路,避免信息差、避免人才被组织架构束缚。
(3)扁平化和信息透明。
即便是英伟达成为大公司,他们内部还是比较扁平化的,因此决策者能及时捕获到一线趋势的变化。而透明,则让公司的各个层级都能一直保持使命一致。在做项目管理时,采用项目制,而不是层级管理,让合适的人在合适的项目上,而不拘泥于组织层级。
(4)持续反思改进。
技术和市场脱节、内部沟通不畅,这种事情在英伟达里至少出现两次,一次是 NV1,一次是 NV30,但他们都通过反思走过来了。黄仁勋倡导的要在大庭广众之下批评反思,这形成公司的反思风格。
(5)危机、趋势和极致的执行
一家公司的文化是 CEO 风格的延伸,CEO 非常努力的工作,带来极致的做事文化。譬如:英伟达内部常说的"光速",这本质上是"第一性原理"或者是我们在做技术方案时常说的"理想态",也就是我们能做到的最好状态。
英伟达的两句话"零亿美元市场"和"我们公司离破产只有30天"可以看出来危机意识和趋势思考。但能做得好的公司极少,"离破产只有30天"这句话在十几年前我刚毕业的时候第一次听到,那是百度文化的一部分,但百度这十几年来一直在原地踏步,错过了很多机会,真的离破产越来越近了。还有,《只有偏执狂才能生存》一书提到英特尔一直在寻找"十倍速因素",但英特尔最近十多年来错过了移动时代、错过了 AI 时代,可见有文化但没有好的执行人也是做不好,从英伟达的故事,我们会发现一把手是最好的执行人。
- 时间线
1993 年创业
1995 年推出第一款产品NV1(失败了)
1997 年推出第三款产品NV3,起死回生(NV2失败了,未推出市场)
1999 年将图形加速器命名 GPU
2001 年 NV20(GeForce3)支持可编程着色器技术,GPU 扩展到非游戏领域
2006 年推出 CUDA
2012 年辛顿的学生基于 GPU 训练的 AlexNet 模型在 ImageNet 竞赛中获胜
2022年 ChatGPT 出现
注:本文也存放在个人公众号上。