黃仁勛業(yè)績會萬字實錄:那么多客戶需求GPU,我們的壓力太大了
5月23日消息,美國當(dāng)?shù)貢r間周三,英偉達公布了該公司截至2024年4月28日的2025財年第一財季財報。報告顯示,英偉達第一財季營收260億美元,同比增長262%,超過分析師平均預(yù)期的246.5億美元;凈利潤148.1億美元,同比上升628%;每股收益為5.98美元,超過分析師平均預(yù)期的5.59美元。由于營收和利潤均超出市場預(yù)期,英偉達股價財報后大漲,股價首次超過1000美元大關(guān)。
本文引用地址:http://cafeforensic.com/article/202405/459139.htm財報發(fā)布后,英偉達總裁兼首席執(zhí)行官黃仁勛(Jensen Huang)和執(zhí)行副總裁兼首席財務(wù)官科莉特·克雷斯(Colette Kress)等高管出席隨后召開的財報電話會議,解讀財報要點并回答分析師提問。
黃仁勛財報解讀
目前整個行業(yè)正經(jīng)歷著重大變革。在開始問答環(huán)節(jié)之前,我想談?wù)勥@場變革的重要性。新的工業(yè)革命已經(jīng)開啟。
許多公司和國家正與英偉達合作,將價值數(shù)萬億美元的傳統(tǒng)數(shù)據(jù)中心轉(zhuǎn)型為加速計算,并致力于建設(shè)新型的數(shù)據(jù)中心,即人工智能工廠(AI Factories),以生產(chǎn)史無前例的商品——人工智能。
人工智能將為幾乎所有行業(yè)帶來翻天覆地的效率提升,幫助企業(yè)在擴大收入的同時,提高成本效益和能源效率。云服務(wù)提供商是生成式人工智能的先行者。借助英偉達的先進技術(shù),這些云服務(wù)商加速了工作負載處理,節(jié)省資金并減少電力消耗。而英偉達Hopper平臺所產(chǎn)生的Token,為他們的AI服務(wù)帶來了收入,而英偉達云實例則吸引了我們龐大開發(fā)者生態(tài)系統(tǒng)中的租戶。
由于生成式人工智能在Hopper平臺上的訓(xùn)練和推理需求迅速增長,我們的數(shù)據(jù)中心業(yè)務(wù)也在強勁增長。訓(xùn)練的規(guī)模持續(xù)擴大,因模型學(xué)習(xí)如何處理多模態(tài)內(nèi)容,如文本、語音、圖像、視頻和3D,并學(xué)習(xí)如何進行推理和規(guī)劃。
我們的推理工作量正在顯著增加。隨著生成式人工智能的發(fā)展,推理現(xiàn)在涉及在巨大規(guī)模上快速生成Token,這變得極其復(fù)雜。生成式人工智能正在驅(qū)動從基礎(chǔ)到全棧的計算平臺轉(zhuǎn)型,將徹底改變我們與計算機的每一次交互體驗。我們正在從今天的信息檢索模型轉(zhuǎn)向一個生成答案和技能的計算模型。人工智能將逐漸理解上下文和我們的真實意圖,并具備更為強大的知識、推理、規(guī)劃以及執(zhí)行任務(wù)的能力。
我們正在從根本上改革計算機的工作方式和功能,從通用CPU轉(zhuǎn)向GPU加速計算,從指令驅(qū)動軟件到理解意圖的模型,從簡單的信息檢索到執(zhí)行復(fù)雜技能。而在工業(yè)層面上,我們從傳統(tǒng)的軟件生產(chǎn)轉(zhuǎn)變?yōu)門oken生成,即數(shù)字智能的制造。
Token生成將持續(xù)推動人工智能工廠的長期建設(shè)。除了云服務(wù)提供商之外,生成式人工智能還擴展到了消費者互聯(lián)網(wǎng)公司、各類企業(yè)、主權(quán)人工智能(Sovereign AI)、汽車及醫(yī)療保健領(lǐng)域,從而孕育了多個價值數(shù)十億美元的垂直市場。
Blackwell平臺已全面啟用,為處理萬億參數(shù)級別的生成式人工智能奠定了堅實基礎(chǔ)。Grace CPU、Blackwell GPU、NVLink、Quantum 和 Spectrum 以及高速互聯(lián)技術(shù)的結(jié)合,并輔以我們豐富的軟件和合作伙伴生態(tài)系統(tǒng),使我們能為客戶提供前所未有的更全面、更完善的人工智能工廠解決方案。
Spectrum-X為我們開辟了一個全新的市場,使我們能將大規(guī)模人工智能引入僅限以太網(wǎng)的數(shù)據(jù)中心。NVIDIA NIM,作為我們的新軟件產(chǎn)品,在我們廣泛的生態(tài)系統(tǒng)合作伙伴網(wǎng)絡(luò)的支持下,可在從云到現(xiàn)場數(shù)據(jù)中心,再到RTX AI個人電腦的各種環(huán)境中運行企業(yè)級優(yōu)化的生成式人工智能。從Blackwell到Spectrum-X再到NIM,我們已為未來增長的新浪潮做好了準(zhǔn)備。
以下為分析師問答環(huán)節(jié):
伯恩斯坦分析師斯泰西·拉斯岡(Stacy Rasgon):我想深入了解Blackwell的情況,它目前已經(jīng)全面投產(chǎn),這是否意味著產(chǎn)品已經(jīng)過了樣品階段?如果是這樣,這將如何影響發(fā)貨和交付時間?當(dāng)Blackwell真正到達客戶手中時,對他們來說又意味著什么?
黃仁勛:我們將會開始發(fā)貨。實際上,我們已經(jīng)開始了一段時間的生產(chǎn)。但我們的生產(chǎn)發(fā)貨將從第二季度開始,并在第三季度加速,客戶應(yīng)該可以在第四季度建立起數(shù)據(jù)中心。
拉斯岡:Blackwell今年是否能夠帶來收入?
黃仁勛:是的,今年我們將看到Blackwell帶來大量收入。
瑞銀分析師蒂莫西·阿庫里(Timothy Arcuri):我想對比下Blackwell與Hopper在部署方面的差異,特別是考慮到系統(tǒng)特性和對GB的巨大需求。這次部署與Hopper有何不同?我這樣問是因為,我們之前從未采用過大規(guī)模的液體冷卻技術(shù),并且在節(jié)點層面及數(shù)據(jù)中心內(nèi)存在一些工程挑戰(zhàn)。這些復(fù)雜性是否會延長過渡期?您如何看待這一過程的進行?
黃仁勛:是的,Blackwell有多種配置。Blackwell是一個平臺,不僅僅是一個GPU。這個平臺支持風(fēng)冷、液冷、x86和Grace、InfiniBand、現(xiàn)在還有Spectrum-X和我在GTC上展示的非常大的NVLink領(lǐng)域。因此,對于一些客戶來說,他們將在已經(jīng)安裝了Hopper的現(xiàn)有數(shù)據(jù)中心基礎(chǔ)上逐步過渡。他們可以輕松地從H100轉(zhuǎn)換到H200再到B100。因此,Blackwell系統(tǒng)在設(shè)計時就考慮到了向后兼容性,在電力和機械方面都進行了充分的考慮。
當(dāng)然,運行在Hopper上的軟件堆棧在Blackwell上也將表現(xiàn)出色。我們也一直在為整個生態(tài)系統(tǒng)“注入活水”,讓他們?yōu)橐豪渥龊脺?zhǔn)備。我們已經(jīng)與Blackwell的生態(tài)系統(tǒng)中的公司進行了長時間的深入討論,包括云服務(wù)提供商、數(shù)據(jù)中心、ODM、系統(tǒng)制造商、我們的供應(yīng)鏈以及冷卻技術(shù)供應(yīng)鏈和數(shù)據(jù)中心供應(yīng)鏈。他們不會對Blackwell的到來以及我們希望通過Grace和Blackwell 200提供的能力感到驚訝。
美國銀行證券分析師維維克·阿雅(Vivek Arya):感謝你回答我的問題,仁勛。我想了解一下,你是如何確保你的產(chǎn)品保持高利用率,并且防止因供應(yīng)緊張、競爭或其他因素導(dǎo)致的提前采購或囤積行為?您們系統(tǒng)中有哪些機制可以讓我們放心,保證收益與非常強勁的出貨量增長保持同步?
黃仁勛:這是一個非常重要的觀點,我會直接回答你的問題。目前,全球數(shù)據(jù)中心對GPU的需求達到了驚人的水平。我們每天都在為趕上這種需求而努力奮斗。原因在于,像ChatGPT和GPT-4這類應(yīng)用正在邁向多模態(tài)處理,Gemini、Anthropic以及所有云服務(wù)提供商(CSP)正在進行的工作都在消耗掉市場上所有可用的GPU資源。此外,還有大約15000至20000家涉及多媒體、數(shù)字角色以及各類設(shè)計工具和生產(chǎn)力應(yīng)用的生成式人工智能初創(chuàng)公司,包括數(shù)字生物學(xué)和自動駕駛視頻訓(xùn)練領(lǐng)域的公司,它們都在積極擴張,對GPU資源的需求日益增加。我們實際上正在與時間賽跑。客戶對我們的壓力巨大,迫切希望我們盡快交付并部署系統(tǒng)。
此外,我們還面臨著來自主權(quán)人工智能的挑戰(zhàn),它們旨在利用國家的自然資源數(shù)據(jù)訓(xùn)練地區(qū)模型。這些系統(tǒng)的部署同樣承受著巨大的壓力。因此,目前的需求非常高,遠遠超過了我們的供應(yīng)能力。
從長遠來看,我們正在徹底改革計算機的運作方式。這是一場重大的平臺轉(zhuǎn)換,雖然它被比作歷史上的其他平臺變革,但時間將證明,這次轉(zhuǎn)變將比以往任何一次都更為深刻。因為現(xiàn)代計算機不再僅僅由指令驅(qū)動,而是轉(zhuǎn)向了理解用戶的意圖。它不僅能理解我們與之交互的方式,還能把握我們的需求和意圖,并具備迭代推理的能力,能夠制定并執(zhí)行解決方案。因此,計算機的每一個方面都在發(fā)生變化,從簡單的信息檢索轉(zhuǎn)變?yōu)樯膳c上下文相關(guān)的智能答案。這將徹底改變?nèi)虻挠嬎慵軜?gòu),甚至連PC計算平臺也將經(jīng)歷一場革命。這一切只是開始,未來我們將在實驗室中繼續(xù)探索,并與全球的初創(chuàng)公司、大型企業(yè)和開發(fā)者合作,共同推動這場變革,其影響將是非凡的。
摩根士丹利分析師約瑟夫·摩爾(Joseph Moore):我理解你剛才所說的需求有多么強勁。你們的H200和Blackwell都有著巨大的需求。那么,在遷移到Hopper和H100產(chǎn)品時,你預(yù)計會有怎樣的市場反應(yīng)?人們是否會等待這些新產(chǎn)品上市,期待它們的出色表現(xiàn)?或者你認為H100本身的需求就足夠維持增長?
黃仁勛:我們注意到這個季度對Hopper的需求正在持續(xù)增長。我們預(yù)計,隨著我們現(xiàn)在過渡到H200和Blackwell,供不應(yīng)求的情況可能會持續(xù)一段時間。每個人都渴望盡快上線他們的基礎(chǔ)設(shè)施。因為這樣他們可以盡快節(jié)省金錢并賺錢。
高盛分析師托西亞·哈里(Toshiya Hari):我想問一下競爭。我知道你們的許多云客戶已經(jīng)宣布新的或更新現(xiàn)有的內(nèi)部程序,與你們的合作同步進行。在中長期,你們在多大程度上將他們視為競爭對手?在你看來,他們主要是解決內(nèi)部工作量,還是他們的作用可能更廣泛?
黃仁勛:我們與眾不同的幾個方面體現(xiàn)在以下幾點。首先,英偉達的加速計算架構(gòu)使客戶能夠處理其流程中的每一個環(huán)節(jié),從未結(jié)構(gòu)化數(shù)據(jù)的處理準(zhǔn)備培訓(xùn),到結(jié)構(gòu)化數(shù)據(jù)處理、類似SQL的數(shù)據(jù)框處理,再到培訓(xùn)和推理。正如我之前提到的,推理已經(jīng)發(fā)生了根本性的變革,現(xiàn)在它轉(zhuǎn)變?yōu)樯赡J?。它不僅僅是簡單地識別出貓——這本身就相當(dāng)困難——而是需要生成貓的每一個像素。因此,生成過程是一種全新的處理架構(gòu)。這也是TensorRT LLM非常受歡迎的原因之一。我們利用同樣的芯片,通過我們的架構(gòu)使性能提高了三倍。這充分展示了我們架構(gòu)和軟件的深度和強大。因此,從計算機視覺到圖像處理,從計算機圖形到各種計算形式,你都可以使用英偉達的技術(shù)。
正如世界正面臨的計算成本和能源通脹,通用計算已經(jīng)達到了瓶頸,而加速計算確實是向前發(fā)展的可持續(xù)方式。加速計算是如何節(jié)省計算成本,如何節(jié)約能源的關(guān)鍵。因此,我們平臺的多功能性為客戶的數(shù)據(jù)中心帶來了最低的總體擁有成本(TCO)。
其次,我們遍布每一個云平臺。因此,對于尋找開發(fā)平臺的開發(fā)者來說,選擇英偉達始終是一個絕佳的選擇。我們在本地、在云端,無論是任何大小和形狀的計算機,我們幾乎無處不在。這是我們的第二個優(yōu)勢。
第三個優(yōu)勢與我們構(gòu)建AI工廠的事實密切相關(guān)。人們越來越認識到,AI問題不僅僅是關(guān)于芯片的。當(dāng)然,一切都始于優(yōu)秀的芯片,我們?yōu)槲覀兊腁I工廠制造了大量的芯片,但AI更是一個系統(tǒng)問題。事實上,AI現(xiàn)在已經(jīng)是一個系統(tǒng)問題,不僅僅是一個大型語言模型,而是多個大型語言模型組成的復(fù)雜系統(tǒng)共同工作。因此,英偉達構(gòu)建這種系統(tǒng),使我們能夠優(yōu)化我們所有的芯片以協(xié)同作為一個系統(tǒng)運行,擁有能夠作為一個系統(tǒng)操作的軟件,并能夠在整個系統(tǒng)中進行優(yōu)化。
從一個簡單的數(shù)值角度來看,如果你有一個價值50億美元的基礎(chǔ)設(shè)施,當(dāng)你將基礎(chǔ)設(shè)施的性能提高了兩倍(這是我們經(jīng)常做的),它的價值也增加到了100億美元。所有這些芯片的成本并不足以支付它們。因此,它的價值是非常巨大的。這就是為什么今天性能至關(guān)重要的原因。在這樣一個最高性能也意味著最低成本的時代,因為維持所有這些芯片的基礎(chǔ)設(shè)施成本非常高昂。需要大量資金來建設(shè)和運營數(shù)據(jù)中心,這還包括了人力、電力、房產(chǎn)等所有相關(guān)成本。因此,最高的性能也確保了最低的總體擁有成本(TCO)。
TD Cowen分析師馬特·拉姆齊(Matt Ramsay):我的整個職業(yè)生涯都在數(shù)據(jù)中心行業(yè)度過,但我從未見過像英偉達推出新平臺的速度這樣快,而且你們的產(chǎn)品在性能上的飛躍尤為顯著:訓(xùn)練性能提升了5倍,推理性能更是提高了30倍,這無疑是令人矚目的成就,但同時也帶來了一個有趣的挑戰(zhàn):你們的客戶所花費數(shù)十億美元購買的前一代產(chǎn)品,與你們的新產(chǎn)品相比,可能在競爭力上顯得遜色,且其折舊周期遠遠短于預(yù)期。面對這種情況,談?wù)勀闶侨绾慰吹???dāng)你們遷移到Blackwell等新一代產(chǎn)品時,你們將有龐大的安裝基礎(chǔ),顯然在軟件兼容性上沒有問題,但大量已安裝產(chǎn)品的性能將遠遠不及新一代產(chǎn)品。我對此非常好奇,也期待聽聽你在這個過程中觀察到的變化。
黃仁勛:非常感謝你的提問,我很高興能夠分享我的觀點。我想強調(diào)三點。
首先,無論是在基礎(chǔ)設(shè)施建設(shè)初期(5%)還是接近完成(95%),你的感受都會大相徑庭。因為目前只完成了5%,你需要盡快建設(shè)。當(dāng)Blackwell產(chǎn)品推出時,將是一個巨大的飛躍。之后,隨著我們持續(xù)推出新的Blackwell產(chǎn)品,我們正處于每年更新一次的節(jié)奏。我們希望客戶能清楚地看到我們的發(fā)展藍圖,盡管他們的項目才剛開始,但他們必須持續(xù)推進。因此,將會有大量新的芯片推出,他們需要不斷地構(gòu)建,并通過提升性能來逐步達到標(biāo)準(zhǔn)。這是明智之舉。他們需要立即盈利并節(jié)約成本,時間對他們來說至關(guān)重要。
讓我舉一個例子來說明時間的重要性:為什么快速部署數(shù)據(jù)中心和縮短培訓(xùn)時間如此關(guān)鍵。因為下一家達到技術(shù)新高度的公司將會宣布一項突破性的人工智能技術(shù),而其后的公司可能只能宣布略有改進的產(chǎn)品,提升幅度可能僅為0.3%。因此,問題是,你想成為一個屢創(chuàng)突破的公司,還是僅稍微領(lǐng)先一點的公司?這就是為什么在所有技術(shù)競賽中,競爭如此關(guān)鍵。你可以看到多家公司在此領(lǐng)域競爭,擁有技術(shù)領(lǐng)先地位至關(guān)重要,企業(yè)需要相信這一點并愿意在你的平臺上進行長期建設(shè),因為他們知道這個平臺將變得越來越好。因此,領(lǐng)導(dǎo)地位非常重要,培訓(xùn)時間也極為關(guān)鍵。能夠提前三個月完成培訓(xùn),就意味著可以提前三個月開始項目,這一切都至關(guān)重要。
這就是為什么我們現(xiàn)在如此積極地部署Hopper系統(tǒng),因為下一個技術(shù)平臺即將到來。你提到的第一點評論非常棒,這正是我們?nèi)绾文軌蚩焖龠M步和快速發(fā)展的原因。我們擁有所有必要的技術(shù)堆棧。我們實際上構(gòu)建了整個數(shù)據(jù)中心,能夠監(jiān)控、測量并優(yōu)化一切。我們知道瓶頸在哪里,我們不是在做無的放矢的猜測,我們不僅僅是展示漂亮的幻燈片。我們也確實希望我們的幻燈片看起來不錯,但我們提供的是能夠大規(guī)模運行的系統(tǒng)。我們知道它們能在大規(guī)模中如何表現(xiàn),因為我們是在這里構(gòu)建它們的。我們所做的一件近乎奇跡的事情是,我們在這里構(gòu)建了整個AI基礎(chǔ)設(shè)施,然后我們將其解構(gòu)并整合到客戶的數(shù)據(jù)中心,無論他們選擇哪種方式。但我們知道它將如何運行,我們知道瓶頸在哪里,我們知道我們需要在哪些地方與他們合作優(yōu)化,我們知道我們需要在哪些方面幫助他們改善基礎(chǔ)設(shè)施以實現(xiàn)最佳性能。這種對整個數(shù)據(jù)中心規(guī)模的深入了解,是我們今天能夠區(qū)別于其他競爭對手的根本原因。我們從零開始構(gòu)建每一個芯片,我們確切地知道整個系統(tǒng)是如何處理的。因此,我們非常清楚它將如何表現(xiàn),以及如何在每一代產(chǎn)品中充分發(fā)揮其潛力。
所以我很感激。這就是我想分享的三點。
Evercore ISI分析師馬克·利帕西斯(Mark Lipacis):你曾經(jīng)提過,通用計算生態(tài)系統(tǒng)往往在每個計算時代占據(jù)主導(dǎo)地位,因為通過適應(yīng)不同的工作負載,這些系統(tǒng)能夠在計算需求下降時實現(xiàn)更高的利用率。這似乎是你推動建立基于CUDA的通用GPU生態(tài)系統(tǒng),用于加速計算發(fā)展的動機所在?,F(xiàn)在,考慮到當(dāng)前推動解決方案需求的主要工作負載正由神經(jīng)網(wǎng)絡(luò)訓(xùn)練和推理所驅(qū)動,從表面上看,這似乎是有限數(shù)量的工作負載。因此,一些人可能會認為這更適合采用定制化的解決方案。然而,問題的關(guān)鍵在于:通用計算框架是否正面臨更大的挑戰(zhàn),或者它們是否具備足夠的靈活性和發(fā)展速度,以在這些特定的工作負載上繼續(xù)發(fā)揮通用框架的歷史優(yōu)勢?
黃仁勛:英偉達的加速計算雖具多功能性,但并不可視為通用計算平臺。例如,我們并不擅長執(zhí)行如電子表格這類典型的通用計算任務(wù)。操作系統(tǒng)代碼的控制循環(huán)對于通用計算而言可能尚可,但對于加速計算則可能不盡人意。因此,雖然我稱我們的平臺為多功能,但這并不意味著它適用于所有場景。我們能夠加速眾多領(lǐng)域的應(yīng)用,這些應(yīng)用雖有深層差異,但更多地體現(xiàn)出共通性:它們均可并行處理,且高度線程化。例如,有5%的代碼可能占據(jù)了運行時間的99%,這正是加速計算的特性所在。我們平臺的多功能性及我們的系統(tǒng)整體設(shè)計,使得在過去十年中,無數(shù)初創(chuàng)公司依靠我們的技術(shù)快速成長。這些公司的架構(gòu)雖脆弱,但在面對生成式人工智能或融合模型等新興技術(shù)時,我們的系統(tǒng)能夠提供穩(wěn)定支持。尤其是當(dāng)出現(xiàn)需要進行持續(xù)對話和理解上下文的大型語言模型時,Grace的內(nèi)存功能顯得尤為關(guān)鍵。因此,在人工智能的各項進展中,我們強調(diào)不僅需要為單一模型設(shè)計解決方案,更應(yīng)提供能廣泛服務(wù)于整個領(lǐng)域的系統(tǒng)。我們遵循軟件的基本原則,認為軟件將持續(xù)演進,變得更加完善和強大。我們堅信未來幾年內(nèi),這些模型的規(guī)模將擴大百萬倍。我們的平臺多功能性在此過程中發(fā)揮了關(guān)鍵作用,如果過于專一,我們可能只是在制作FPGA或ASIC,但這遠非完整的計算解決方案。
Jefferies分析師布萊恩·柯蒂斯(Blayne Curtis):我對你們?yōu)橹袊袌鎏貏e推出的H20產(chǎn)品很感興趣。鑒于當(dāng)前的供應(yīng)限制,我很好奇你們?nèi)绾纹胶膺@款產(chǎn)品的需求與Hopper其他產(chǎn)品的供應(yīng)。能否詳細闡述對下半年的展望,包括對銷售和毛利率的可能影響?
黃仁勛:關(guān)于你提到的H20以及不同Hopper產(chǎn)品之間的供應(yīng)分配,我可能沒完全聽清你的問題。但我想說,我們尊重每一位客戶,并盡力為他們提供最好的服務(wù)。確實,我們在中國的業(yè)務(wù)相較于過去有所下降,這主要是由于技術(shù)出口限制以及中國市場競爭的加劇所致。但請放心,我們?nèi)詴M最大努力為中國市場的客戶提供最好的服務(wù)。關(guān)于你提到的供應(yīng)問題,我們的評論也適用于整個市場,特別是H200和Blackwell在年底時的供應(yīng)情況。確實,這兩款產(chǎn)品的需求非常強勁。
Raymond James分析師斯里尼·帕杰里(Srini Pajjuri): 我想更多了解下你剛才提到的GB 200系統(tǒng)。目前看來,市場對這些系統(tǒng)有很大的需求。從歷史上看,英偉達已經(jīng)賣出了大量的HGX和GPU,而系統(tǒng)業(yè)務(wù)則相對較小。所以我很好奇,為什么現(xiàn)在你預(yù)見對系統(tǒng)的需求如此強勁?這是否僅是因為總體擁有成本(TCO)的考量,還是有其他因素,比如架構(gòu)優(yōu)勢?
黃仁勛:事實上,我們銷售GB 200的方式與我們解構(gòu)產(chǎn)品的方式相同。我們將所有合理的組件分解并將它們集成到計算機制造商中。今年,我們將有100種不同的Blackwell計算機系統(tǒng)配置推向市場,這是前所未有的。Hopper在其高峰時期也只有一半的配置選項,最初的配置比這少得多。而Blackwell則提供了更多樣化的選擇。因此,您將看到液冷版、風(fēng)冷版、x86版、Grace版等等。我們的伙伴也在提供這些多樣化的系統(tǒng)。沒有什么真正改變的。當(dāng)然,Blackwell平臺極大地擴展了我們的產(chǎn)品陣容。CPU的集成和更緊湊的計算密度,液冷將為數(shù)據(jù)中心在供電方面節(jié)省大量成本,并提高能源效率。因此,這是一個更好的解決方案。它更具擴展性,這意味著我們?yōu)閿?shù)據(jù)中心提供了更多的組件。在這個過程中,每個人都是贏家。數(shù)據(jù)中心將獲得更高性能的網(wǎng)絡(luò),從網(wǎng)絡(luò)交換機到網(wǎng)絡(luò)。當(dāng)然,我們現(xiàn)在有網(wǎng)卡,我們有以太網(wǎng),這樣我們就可以將NVIDIA AI帶給只知道如何操作以太網(wǎng)的大規(guī)??蛻簦驗樗麄儞碛羞@樣的生態(tài)系統(tǒng)。因此,Blackwell更具擴展性,我們?yōu)榭蛻籼峁┝烁嗟臇|西。這一代的產(chǎn)品更為豐富。
Truist Securities分析師威廉·斯特恩(William Stein):盡管市場上已有性能良好的CPU可供數(shù)據(jù)中心使用,但你們基于Arm架構(gòu)的Grace CPU提供了一些真正的優(yōu)勢,使得這項技術(shù)值得交付給客戶,這些優(yōu)勢可能與成本效益、功耗有關(guān)?抑或是Grace與Hopper、Grace與Blackwell之間的技術(shù)協(xié)同效應(yīng)有關(guān)?你能否解釋一下,在客戶端是否也可能出現(xiàn)類似的動態(tài)?盡管市場上已經(jīng)有很好的解決方案,比如英特爾和AMD都提供了卓越的X86產(chǎn)品,但在新興的人工智能工作負載方面,英偉達可能有某些獨特的優(yōu)勢,這些優(yōu)勢可能是其他公司難以匹敵的?
黃仁勛:你提到了一些非常好的理由。的確,對于許多應(yīng)用來說,我們與x86合作伙伴的合作關(guān)系非常出色,我們一起構(gòu)建了很多優(yōu)秀的系統(tǒng)。但是,Grace允許我們做一些當(dāng)前系統(tǒng)配置無法做到的事情。Grace和Hopper之間的內(nèi)存系統(tǒng)是相干的,緊密連接的。把它們看作兩個獨立的芯片似乎不太恰當(dāng),因為它們更像是一個超級芯片。兩者之間的連接接口的帶寬是每秒數(shù)TB,這是非常驚人的。Grace使用的是LPDDR內(nèi)存,這是第一個數(shù)據(jù)中心級的低功耗內(nèi)存。因此,我們在每個節(jié)點上都節(jié)省了大量電力。此外,由于我們現(xiàn)在可以創(chuàng)建整個系統(tǒng)的架構(gòu),我們可以創(chuàng)建一個具有非常龐大NV連接域的系統(tǒng),這對下一代大語言模型的推理至關(guān)重要。
因此,你看到GB200有一個72節(jié)點的NVLink域,這就像是將72個Blackwell連接成一個巨大的GPU。因此,我們需要Grace和Blackwells緊密結(jié)合來實現(xiàn)。因此,有架構(gòu)上的原因,有軟件編程的原因,還有系統(tǒng)層面的原因,這些都是我們構(gòu)建它們的必要條件。因此,如果我們看到類似的機會,我們會探索它們。正如你在昨天的微軟發(fā)布會上看到的那樣,微軟首席執(zhí)行官薩提亞·納德拉(Satya Nadella)宣布了下一代PC——Copilot+ PC,它在我們的RTX GPU上運行得非常好,這些GPU正在筆記本電腦上出貨。但它也很好地支持了ARM。因此,這為系統(tǒng)創(chuàng)新甚至為PC打開了大門。
Cantor Fitzgerald分析師C.J·繆斯(C.J. Muse):我想這是個比較長遠的問題。我知道Blackwell甚至還沒有推出產(chǎn)品,但很明顯,投資者總是有遠見的。在GPU和定制ASIC日益激烈的競爭中,你如何看待英偉達在未來十年中的創(chuàng)新步伐?過去十年,英偉達在CUDA、Varsity、Precision、Grace以及Connectivity等技術(shù)的推出令人印象深刻。未來10年,英偉達需要解決哪些挑戰(zhàn)?也許更重要的是,你今天愿意與我們分享什么?
黃仁勛:對于未來,我可以自豪地告訴你們,在Blackwell之后,我們還將推出一款全新的芯片。我們處于每年更新一次的節(jié)奏,因此您可以期待我們將以極快的速度推出新的網(wǎng)絡(luò)技術(shù)。我們最近推出了面向以太網(wǎng)的Spectrum-X,但我們對以太網(wǎng)的規(guī)劃遠不止于此,它充滿了充滿激情的潛力。我們有一個強大的合作伙伴生態(tài)系統(tǒng),例如,戴爾宣布將Spectrum-X推向市場。我們的客戶和合作伙伴將不斷推出基于英偉達AI工廠架構(gòu)的新產(chǎn)品。對于那些追求極致性能的公司,我們提供了InfiniBand計算結(jié)構(gòu),它是一個經(jīng)過多年發(fā)展變得越來越優(yōu)秀的網(wǎng)絡(luò)解決方案。而作為基礎(chǔ)網(wǎng)絡(luò)的以太網(wǎng),通過Spectrum-X,我們將使其具備更強的計算能力。
我們?nèi)ν度胗谶@三條路徑的發(fā)展:NVLink計算結(jié)構(gòu)用于單一計算域,InfiniBand計算結(jié)構(gòu),以及以太網(wǎng)網(wǎng)絡(luò)計算結(jié)構(gòu)。我們將以驚人的速度推進這三個方向的發(fā)展。您很快就會看到新的交換機、新的網(wǎng)卡、新功能以及在這些設(shè)備上運行的新軟件棧涌現(xiàn)出來。新的CPU、GPU、網(wǎng)絡(luò)網(wǎng)卡、交換機等一系列芯片即將推出。
而最令人振奮的是,所有這些產(chǎn)品都將支持CUDA,并且都將兼容我們的整個軟件堆棧。這意味著,如果您今天投資于我們的軟件堆棧,您永遠不需要擔(dān)心它會過時或落后,因為它將不斷進化,變得更快、更強大。如果您今天選擇采用我們的架構(gòu),那么隨著它逐步進入更多的云和數(shù)據(jù)中心,您將能夠無縫地繼續(xù)運行您的業(yè)務(wù)。
我認為,英偉達帶來的創(chuàng)新將不斷提升我們的能力,并降低總體擁有成本(TCO)。我們有信心,通過英偉達的架構(gòu),我們將能夠引領(lǐng)這個新的計算時代,開啟這場新的工業(yè)革命。我們不再只是生產(chǎn)軟件,我們正在大規(guī)模制造人工智能Token。
評論