問(wèn)：    英偉達(dá)(NVDA)近期上攻$1000的高位后，多空分歧開(kāi)始劇烈，不少人拿出當(dāng)年互聯(lián)網(wǎng)泡沫時(shí)Cisco的尖峰圖做對(duì)比。 您怎么看？

答：    但在大多數(shù)情況下，用舊數(shù)據(jù)來(lái)短期預(yù)測(cè)股市是意義不大的：因?yàn)樽兞刻?，情況完全復(fù)刻的概率極低。但是，分析科技股一定是要分析其未來(lái)數(shù)十年的發(fā)展邏輯，而且這個(gè)邏輯是相通的。問(wèn)：    但是，市面上就沒(méi)幾個(gè)人把英偉達(dá)的邏輯說(shuō)清楚的。至少我沒(méi)看到。答：    看清英偉達(dá)的邏輯確實(shí)相對(duì)門(mén)檻比較高，它至少有三層：

1. 總AI市場(chǎng)需求(TAM)夠不夠大？這個(gè)生意能賺多少年？
2. 英偉達(dá)現(xiàn)在爆好的業(yè)務(wù)會(huì)不會(huì)曇花一現(xiàn)？大廠們完成硬件軍備競(jìng)賽完成后不再需要采購(gòu)了？
3. 英偉達(dá)的護(hù)城河夠深嗎？未來(lái)競(jìng)爭(zhēng)對(duì)手能搶走多少份額？

問(wèn)：    我知道科技股巨頭絕大多數(shù)有個(gè)特點(diǎn)，就是有所謂的“護(hù)城河”。但英偉達(dá)這個(gè)護(hù)城河是怎么回事，道上各種神仙妖魔經(jīng)常是亂吹一氣，實(shí)在不知道應(yīng)該聽(tīng)誰(shuí)的。答：    我一直這樣認(rèn)為，科技公司的護(hù)城河，大多是軟硬一體的，這樣就可以持續(xù)半個(gè)世紀(jì)以上。純軟件或純硬件成功的公司肯定也有，但不影響我的核心觀點(diǎn)。問(wèn)：    您能給出一些例子嗎？答：    我從過(guò)去50年每個(gè)十年分別找出個(gè)例子，來(lái)做一下說(shuō)明。         1970年代最重要的軟件技術(shù)是關(guān)系型數(shù)據(jù)庫(kù)，我們簡(jiǎn)稱(chēng)SQL吧。SQL使得企業(yè)的信息化啟動(dòng)了，手寫(xiě)帳變成了電子賬，帶來(lái)第一個(gè)萬(wàn)億級(jí)賽道。我們要提的這家軟硬一體公司，就是IBM。IBM的工作，簡(jiǎn)單說(shuō)，就是給企業(yè)用上SQL，配上IBM的主機(jī)。1980年代，大家都聽(tīng)過(guò)神奇CEO帶著IBM大象跳舞，其實(shí)主要是職業(yè)經(jīng)理人的自我吹噓。所謂跳舞就是砍掉硬件轉(zhuǎn)型服務(wù)，而事實(shí)是主機(jī)是IBM真正的護(hù)城河，它根本沒(méi)被砍，裝SQL的“服務(wù)”業(yè)務(wù)是市場(chǎng)爆炸需求，也不是職業(yè)經(jīng)理人發(fā)明的。IBM主機(jī)業(yè)務(wù)50年經(jīng)久不衰，我們大家的存款大多還是IBM主機(jī)管著。雖然很多人都以為IBM已經(jīng)完蛋了，但它的股價(jià)其實(shí)現(xiàn)在是創(chuàng)新高的。        1980年代最重要的軟件技術(shù)是圖形界面，我們簡(jiǎn)稱(chēng)GUI吧。GUI使得PC爆發(fā)增長(zhǎng)成為每個(gè)人的工具，這里的代表公司是WINTEL。微軟和英特爾確實(shí)是兩家公司，但由于兩家是事實(shí)上PC標(biāo)準(zhǔn)的制定者而軟硬件深度綁定。他們的成功也持續(xù)至今，雖然英特爾近幾年碰到不少問(wèn)題但在PC領(lǐng)域仍是領(lǐng)頭羊。        1990年代最重要的軟件技術(shù)是萬(wàn)維網(wǎng)，我們簡(jiǎn)稱(chēng)WWW吧。WWW中最重要的軟硬件一體公司是思科(CSCO)，思科從那時(shí)至今仍是互聯(lián)網(wǎng)后臺(tái)最重要的公司，我們?nèi)绻?000年泡沫的尖峰，思科的股價(jià)其實(shí)也是穩(wěn)步向上的狀態(tài)。也就是說(shuō)，和IBM類(lèi)似，思科的核心生意從那時(shí)開(kāi)始一直賺錢(qián)至今，只是這個(gè)生意沒(méi)大家想象的那么大，換機(jī)頻率比較低。思科曾有個(gè)巨大的失誤，就是其終端路由器WRT54G錯(cuò)誤地選用了Linux，因GPL協(xié)議的原因被迫公布了源代碼，這導(dǎo)致所有公司一下子都會(huì)做普通路由器了。如果思科當(dāng)時(shí)像蘋(píng)果MacOS那樣選FreeBSD，這個(gè)軟硬一體恐怕還能多賺很多錢(qián)。        2000年代最重要的軟件技術(shù)是虛擬化，也叫Hypervisor。這里面最出名的公司是VMWare，它的最核心產(chǎn)品其實(shí)是服務(wù)器底層(Bare-Metal)操作系統(tǒng)。VMWare的軟件非常非常優(yōu)秀，但它缺乏深度的硬件綁定自身難以成為超級(jí)巨頭，反而被硬件公司買(mǎi)來(lái)賣(mài)去的。最終成功應(yīng)用虛擬化做到軟硬一體的公司，是亞馬遜、谷歌和微軟，他們使得互聯(lián)網(wǎng)變成工作生活必須的基礎(chǔ)設(shè)施，給你提供各種信息和商品。        2010年代最重要的軟件技術(shù)是移動(dòng)操作系統(tǒng)，iOS和Android。蘋(píng)果做到iOS軟硬件一體而賺走了手機(jī)業(yè)90%的利潤(rùn)，這里不用多講吧。        2020年代最重要的軟件技術(shù)顯然是大語(yǔ)言模型，我們簡(jiǎn)稱(chēng)LLM。問(wèn)：    您之前列的那些軟硬件一體，都是奔著持續(xù)掙50年大錢(qián)的，我承認(rèn)。但是LLM真的能和那些前輩相提并論嗎？答：    答案是肯定的。這就是看多英偉達(dá)的第一層，而且我相信華爾街也達(dá)成了共識(shí)，所以才會(huì)瘋狂追捧。        Hinton說(shuō)，GenAI(LLM)標(biāo)志了仿生智能（連接派）在與符號(hào)邏輯智能（符號(hào)派）的競(jìng)爭(zhēng)中勝出。而這個(gè)勝出一下子為后面AI代替人的幾乎所有事情畫(huà)清了路線圖，甚至人無(wú)法做的那些事機(jī)器如何做也都有了眉目。        黃仁勛說(shuō)，人的DNA序列也是個(gè)語(yǔ)言，我們還不知道它是什么意思，形成的各種蛋白作用是什么，但LLM未來(lái)大概率可以告訴我們。這為未來(lái)的醫(yī)學(xué)打開(kāi)了一扇巨大的門(mén)。        簡(jiǎn)單說(shuō)，過(guò)不了幾年LLM就是任何人不可缺少的隨身伴侶，普通人花十幾年的巨額代價(jià)學(xué)外語(yǔ)學(xué)數(shù)理化都將變得沒(méi)有意義。問(wèn)：    停！你吹了半天LLM，可英偉達(dá)不是做LLM的呀，你不是說(shuō)軟硬件一體么，而且訓(xùn)練LLM的GPU，好多家都能做呢。另外，英偉達(dá)這幾個(gè)季度業(yè)績(jī)超預(yù)期，是各個(gè)大廠抓緊采購(gòu)的結(jié)果，他們急需AI平臺(tái)煉丹來(lái)追趕OpenAI等公司。等他們都采購(gòu)一圈了，數(shù)據(jù)中心也建好了，英偉達(dá)的業(yè)績(jī)也就不行了吧？答：    確實(shí)，目前是AI屆的軍備競(jìng)賽，先買(mǎi)夠裝備再說(shuō)。從分析師給出的數(shù)據(jù)看，前兩家大廠采購(gòu)量最大，其它家還遠(yuǎn)遠(yuǎn)沒(méi)到呢。目前暫時(shí)無(wú)法判斷需求已經(jīng)見(jiàn)頂，從英偉達(dá)指引看交貨還成問(wèn)題，這個(gè)軍備競(jìng)賽至少還要持續(xù)一年。等到這輪軍備到位了，更新?lián)Q代也該到來(lái)了。因?yàn)槟壳暗挠布€是存在明顯的性能問(wèn)題，我們看到煉GPT-4這種丹需要超過(guò)一年的時(shí)間。按黃老板的估計(jì)，未來(lái)十年AI算力會(huì)增加100萬(wàn)倍，這個(gè)有意思了，逼著大廠們不停地更新?lián)Q代啊。這也就是黃老板說(shuō)的，英偉達(dá)自己將和自己競(jìng)爭(zhēng)。問(wèn)：    那第二層我明白了，我們看第三層。這些算力的增長(zhǎng)可不一定是英偉達(dá)獨(dú)吞呀，英偉達(dá)的護(hù)城河到底有多深？我看CUDA被吹到天上去了，不就是些軟件庫(kù)么，我看競(jìng)爭(zhēng)對(duì)手都有競(jìng)品了呀。AMD有ROCm，英特爾有oneAPI。答：    你有沒(méi)有發(fā)現(xiàn)，你在網(wǎng)上很難找到真正對(duì)比評(píng)測(cè)的內(nèi)容。為什么呢？因?yàn)樗麄兒陀ミ_(dá)的差距比你的認(rèn)知大得多的多。問(wèn)：    我看到英特爾CEO Pat Gelsinger說(shuō)：“我們認(rèn)為CUDA護(hù)城河又淺又小?！惫柘扇薐im Keller說(shuō)，“CUDA就是沼澤地，不是護(hù)城河?！边@些大咖明顯看不上CUDA的嘛。答：    我得承認(rèn)，你看到這些評(píng)論后，一定會(huì)產(chǎn)生CUDA沒(méi)什么了不起的感覺(jué)。但事實(shí)上，他們正是用含糊的語(yǔ)氣故意讓你產(chǎn)生這種錯(cuò)覺(jué)。Gelsinger其實(shí)加了點(diǎn)解釋?zhuān)J(rèn)為CUDA只是訓(xùn)練有用，推理時(shí)就可以不用了，推理可以用英特爾AI處理器。Jim Keller說(shuō)的沼澤地什么意思他沒(méi)認(rèn)真解釋?zhuān)J(rèn)為X86也是沼澤地。事實(shí)上，正是積累了超過(guò)十年的沼澤地，讓競(jìng)爭(zhēng)對(duì)手根本沒(méi)辦法抄。你知道怎么鋪柏油路，但你不知道怎么搭建一片一模一樣的沼澤地。就像微軟的Office，設(shè)計(jì)和代碼一團(tuán)亂麻，但就是一種能前后兼容的沼澤地。問(wèn)：    你說(shuō)的還是不夠清楚，像AMD這樣已經(jīng)有強(qiáng)大GPGPU的廠商，不需要抄CUDA，自己重新搞一套標(biāo)準(zhǔn)庫(kù)不就好了，像新鋪一個(gè)柏油路。答：    這就說(shuō)到什么是英偉達(dá)的軟硬一體了。事實(shí)上，15年前廠商們就在一起搞了一個(gè)叫OpenCL的計(jì)算框架，但因?yàn)槭袌?chǎng)太小各家又同床異夢(mèng)，有bug又長(zhǎng)期不解決，導(dǎo)致它現(xiàn)在半死不活。AMD搞CUDA的競(jìng)爭(zhēng)平臺(tái)ROCm也不是一天兩天了，是七年多了，但是同樣投入資源不夠，各種問(wèn)題拖到用戶(hù)崩潰，導(dǎo)致用戶(hù)基本都流失了。而英偉達(dá)，黃老板自稱(chēng)是個(gè)軟件公司，軟件工程師比硬件工程師多。問(wèn)：    那也就是CUDA沒(méi)有像樣的競(jìng)爭(zhēng)對(duì)手了？        英特爾正是看到OpenCL和ROCm都深陷泥潭，決定抽身出來(lái)新鋪一個(gè)路，這就是oneAPI?？陀^地說(shuō)，oneAPI確實(shí)志向高遠(yuǎn)，它試圖囊括所有家的GPU，CPU，F(xiàn)PGA等做個(gè)高級(jí)抽象平臺(tái)。問(wèn)：    沒(méi)聽(tīng)太明白。人家AMD一種硬件都搞不定，你搞各種硬件反而能搞定？答：    類(lèi)比一下吧，英特爾搞的這個(gè)東西，有點(diǎn)像谷歌搞的安卓用Java，在各種廠商的不同硬件上都能跑；而CUDA像iOS只能在英偉達(dá)GPU上跑，但性能最優(yōu)。英特爾收購(gòu)了一家叫Codeplay的挺厲害的公司，目標(biāo)是通過(guò)SYCL語(yǔ)言實(shí)現(xiàn)跨平臺(tái)和各種可移植的庫(kù)。但其挑戰(zhàn)是，SYCL遠(yuǎn)不像當(dāng)年Java那么流行而且有極其豐富的程序員資源。問(wèn)：    明白了，那CUDA算是遇到挑戰(zhàn)者了？答：    還遠(yuǎn)遠(yuǎn)沒(méi)有。高性能計(jì)算需要完善的硬件層、驅(qū)動(dòng)、集群、底層庫(kù)和上層應(yīng)用(PyTorch，編譯器等)的深度綁定，CUDA沒(méi)有一個(gè)短板。而其競(jìng)爭(zhēng)對(duì)手除了最基本的GPU芯片性能類(lèi)似，別的部分都遙遙落后，單一個(gè)驅(qū)動(dòng)程序都bug百出。AMD的MI300雖然單機(jī)性能強(qiáng)，但并沒(méi)有那么大的實(shí)戰(zhàn)意義。這就是黃老板說(shuō)的，他們的硬件白送，搞出LLM的成本都比英偉達(dá)高，因?yàn)楦鞣N錯(cuò)誤時(shí)間耗不起。問(wèn)：    你說(shuō)的集群是什么意思？答：    煉丹超大型LLM，需要千顆以上的GPU協(xié)同工作，這種量級(jí)針對(duì)LLM的集群軟硬件生態(tài)，目前只有英偉達(dá)獨(dú)此一家。即使說(shuō)到幾顆GPU的小集合，英偉達(dá)都是遙遙領(lǐng)先，這就是我們看到的Hopper架構(gòu)，GPU之間連接的NVLink和NVSwitch是英偉達(dá)私有技術(shù)，AMD用的PCIe并不能與之抗衡。H200首家采用的HBM3e，有恐怖的4.8TB/s帶寬來(lái)有效突破內(nèi)存墻。再過(guò)兩天英偉達(dá)開(kāi)GTC，不知道還會(huì)有什么東西拿出來(lái)嚇人。問(wèn)：    你真是英偉達(dá)吹啊。難道它就沒(méi)什么弱點(diǎn)可以擊破嗎？答：    在美國(guó)的H1B工簽抽簽環(huán)境下，程序員是非常稀缺的資源。加上美國(guó)互聯(lián)網(wǎng)業(yè)發(fā)達(dá)和基礎(chǔ)教育薄弱，其程序員的缺口巨大。驅(qū)動(dòng)程序和計(jì)算庫(kù)這種低性?xún)r(jià)比的東西，美國(guó)程序員大多是不愛(ài)做的。        和美國(guó)形成鮮明對(duì)照的是中國(guó)，基礎(chǔ)教育卷到發(fā)指，程序員資源如滔滔江水。我們看到，由于中美高技術(shù)脫鉤，中國(guó)必然全力發(fā)展自己的新質(zhì)生產(chǎn)力。那些AMD和英特爾正在苦苦掙扎的庫(kù)都是開(kāi)源的，我們只要投入足夠、力出一孔，必然可以大幅度縮短和英偉達(dá)CUDA的差距。

*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。