h100 gpu 文章進(jìn)入h100 gpu技術(shù)社區(qū)

英偉達(dá) Q3 狂賣(mài) 50 萬(wàn) GPU，AI 爆火背后是顯卡的爭(zhēng)奪

據(jù)統(tǒng)計(jì)，英偉達(dá)在第三季度大約賣(mài)出了 50 萬(wàn)臺(tái) H100 和 A100 GPU，大語(yǔ)言模型爆火的背后，是眾組織機(jī)構(gòu)對(duì) GPU 的爭(zhēng)奪，是英偉達(dá)近千噸的顯卡出貨量。據(jù)市場(chǎng)跟蹤公司 Omdia 的統(tǒng)計(jì)分析，英偉達(dá)在第三季度大約賣(mài)出了 50 萬(wàn)臺(tái) H100 和 A100 GPU！此前，Omdia 通過(guò)英偉達(dá)第二季度的銷(xiāo)售額，估計(jì)其大概賣(mài)出了 900 噸 GPU！大語(yǔ)言模型火爆的背后，英偉達(dá)建立起了強(qiáng)大的顯卡帝國(guó)。在人工智能的大潮之下，GPU 成為了各機(jī)構(gòu)、公司，甚至是國(guó)家在全球范圍內(nèi)爭(zhēng)奪的對(duì)象。在本財(cái)年第三季度
關(guān)鍵字：英偉達(dá) GPU 人工智能

AWS與NVIDIA深化合作，推動(dòng)AI基礎(chǔ)設(shè)施創(chuàng)新

據(jù)外媒，近日，亞馬遜（Amazon）旗下亞馬遜云科技（Amazon Web service，AWS）在2023 re:Invent全球大會(huì)上宣布，與英偉達(dá)擴(kuò)大戰(zhàn)略合作，將聯(lián)合推出先進(jìn)的基礎(chǔ)設(shè)施、軟件及服務(wù)，推動(dòng)客戶(hù)在生成式AI（Generative AI）的創(chuàng)新。報(bào)道稱(chēng)，雙方將英偉達(dá)與亞馬遜云科技技術(shù)優(yōu)勢(shì)相結(jié)合，具體包含英偉達(dá)新一代GPU、CPU（中央處理器）與AI軟件的最新多節(jié)點(diǎn)系統(tǒng)，以及亞馬遜云科技的Nitro System先進(jìn)虛擬化與安全平臺(tái)、Elastic Fabric Adapter（EFA）互
關(guān)鍵字： NVIDIA AWS AI GPU

Omdia：英偉達(dá) Q3 售出近 50 萬(wàn)個(gè) A100 和 H100 AI GPU，Meta 和微軟是最大買(mǎi)家

IT之家 11 月 28 日消息，本財(cái)年第三季度，得益于 AI GPU 的需求火熱，英偉達(dá)在數(shù)據(jù)中心硬件上賺了 145 億美元（IT之家備注：當(dāng)前約 1038.2 億元人民幣）。研究機(jī)構(gòu) Omdia 表示，英偉達(dá) Q3 售出了近 50 萬(wàn)個(gè) A100 和 H100 GPU，基于 H100 的服務(wù)器的交付周期已延長(zhǎng)至 36 到 52 周。Omdia 認(rèn)為，Meta 和微軟是英偉達(dá) H100 GPU 的最大買(mǎi)家。他們都采購(gòu)了多達(dá) 15 萬(wàn)個(gè) H100 GPU，遠(yuǎn)遠(yuǎn)超過(guò)谷歌、亞馬遜、甲骨文和騰訊購(gòu)買(mǎi)的
關(guān)鍵字：英偉達(dá) GPU 計(jì)算平臺(tái)

龍芯中科：定位終端的2K3000已完成前端設(shè)計(jì)

龍芯中科近期接受投資者調(diào)研時(shí)稱(chēng)，6000系列計(jì)劃在目前的工藝上再做一次improvement（結(jié)構(gòu)優(yōu)化），用已有工藝完成結(jié)構(gòu)優(yōu)化試錯(cuò)后再升級(jí)到更先進(jìn)工藝。到做6000系列時(shí)將會(huì)分成桌面、服務(wù)器和終端三條線，并不斷地提高性?xún)r(jià)比。服務(wù)器產(chǎn)品3C/3D/3E6000將全部采用全新的龍鏈技術(shù)，實(shí)現(xiàn)片間高速互連。打印機(jī)后續(xù)將陸續(xù)推出系列化的芯片以滿(mǎn)足市場(chǎng)需求。定位終端的2K3000目前已經(jīng)完成前端設(shè)計(jì)，計(jì)劃明年一季度交付流片，其單核性能跟3A5000可比，集成了自研的第二代GPU核LG200、密碼模塊和各種豐富的接
關(guān)鍵字：龍芯中科 GPU

前英特爾圖形主管 Raja Koduri：獨(dú)立 GPU 不會(huì)很快被“計(jì)算專(zhuān)用”集成 SoC 取代，未來(lái)長(zhǎng)路漫漫

IT之家?11 月 27 日消息，前英特爾圖形主管?Raja Koduri?在今年 3 月離職，成立了一家 AI 初創(chuàng)公司。日前他在?X?平臺(tái)發(fā)布回應(yīng)貼文，認(rèn)為獨(dú)立?GPU?在計(jì)算方面更有優(yōu)勢(shì)，相對(duì)于計(jì)算專(zhuān)用集成 SoC?用途更穩(wěn)定?！?圖源?Raja Koduri 發(fā)布的貼文IT之家從 Raja Koduri?回應(yīng)中獲悉，Raja Koduri?認(rèn)為獨(dú)立 GPU 不會(huì)很快被用于 AI 和 HPC
關(guān)鍵字： GPU AI 人工智能

消息稱(chēng)中國(guó)特供版英偉達(dá) H20 AI 芯片推遲到明年一季度發(fā)布

IT之家?11 月 24 日消息，芯片咨詢(xún)公司 SemiAnalysis 此前消息稱(chēng)，英偉達(dá)現(xiàn)已開(kāi)發(fā)出針對(duì)中國(guó)區(qū)的最新改良版 AI 芯片，包括 HGX H20、L20 PCIe 和 L2 PCIe，在 LLM 推理中，要比 H100 快 20% 以上。據(jù)路透社報(bào)道，兩位消息人士透露，英偉達(dá)已告知中國(guó)客戶(hù)，HGX H20 AI 芯片的推出時(shí)間將推遲到明年第一季度。消息人士稱(chēng)，他們被告知，由于服務(wù)器制造商在集成芯片方面遇到問(wèn)題，H20 被推遲。其中有人表示，他們被告知可能會(huì)在 2 月或 3 月發(fā)布。
關(guān)鍵字：英偉達(dá) GPU 計(jì)算平臺(tái) H20

英偉達(dá)預(yù)估明年高端AI服務(wù)器出貨中國(guó)占比低于4%

11月24日消息，受惠北美大型CSP廠商對(duì)AI服務(wù)器需求高漲，根據(jù)英偉達(dá)日前公布的FY3Q24財(cái)報(bào)資料顯示，數(shù)據(jù)中心部門(mén)營(yíng)收創(chuàng)新高。不過(guò)，據(jù)集邦咨詢(xún)觀察，盡管英偉達(dá)高階GPU出貨動(dòng)能強(qiáng)勁，然近期美國(guó)政府出臺(tái)對(duì)中國(guó)大陸新一波禁令卻對(duì)其大陸業(yè)務(wù)帶來(lái)沖擊，英偉達(dá)雖然快速推出符合規(guī)范的產(chǎn)品如H20、L20及L2，但中國(guó)大陸云端廠商仍在測(cè)試驗(yàn)證階段，難在第4季對(duì)英偉達(dá)貢獻(xiàn)實(shí)質(zhì)營(yíng)收，預(yù)估2024年第1季才會(huì)逐步放量。集邦咨詢(xún)表示，2023~2024年北美CSPs如微軟、Google、AWS等仍是高階AI服務(wù)器（包含搭
關(guān)鍵字：英偉達(dá) GPU AI服務(wù)器

NVIDIA 為全球領(lǐng)先的 AI 計(jì)算平臺(tái) Hopper 再添新動(dòng)力

據(jù)英偉達(dá)官微消息，近日，NVIDIA宣布推出 NVIDIA HGX? H200，為Hopper這一全球領(lǐng)先的AI計(jì)算平臺(tái)再添新動(dòng)力。據(jù)悉，NVIDIA H200是首款采用HBM3e的GPU，其運(yùn)行更快、更大的顯存容量將進(jìn)一步加速生成式AI與大語(yǔ)言模型，同時(shí)推進(jìn)用于HPC工作負(fù)載的科學(xué)計(jì)算。憑借HBM3e，NVIDIA H200能夠提供傳輸速度達(dá)4.8 TB /秒的141GB顯存。與上一代架構(gòu)的NVIDIA A100相比，其容量幾乎翻了一倍，帶寬也增加了2.4倍。據(jù)了解，全球領(lǐng)先的服務(wù)器制造商和云
關(guān)鍵字：英偉達(dá) Hopper AI GPU

老黃深夜炸場(chǎng)！英偉達(dá)發(fā)布全球最強(qiáng) AI 芯片 H200：性能飆升 90%，Llama 2 推理速度翻倍

IT之家 11 月 13 日消息，英偉達(dá)今日發(fā)布了下一代人工智能超級(jí)計(jì)算機(jī)芯片，這些芯片將在深度學(xué)習(xí)和大型語(yǔ)言模型（LLM）方面發(fā)揮重要作用，比如 OpenAI 的 GPT-4。新芯片相比上一代有了顯著的飛躍，將被用于數(shù)據(jù)中心和超級(jí)計(jì)算機(jī)，處理諸如天氣和氣候預(yù)測(cè)、藥物發(fā)現(xiàn)、量子計(jì)算等任務(wù)。此次發(fā)布的關(guān)鍵產(chǎn)品是基于英偉達(dá)的“Hopper”架構(gòu)的 HGX H200 GPU，是 H100 GPU 的繼任者，也是該公司第一款使用 HBM3e 內(nèi)存的芯片，這種內(nèi)存速度更快，容量更大，因此更適合大型語(yǔ)言模型
關(guān)鍵字：英偉達(dá) GPU 計(jì)算平臺(tái) H200

?GPU芯片新技術(shù)出現(xiàn)，中國(guó)廠商值得借鑒

11 月 6 日，在創(chuàng)業(yè)三年，即將進(jìn)入下一個(gè)三年之際，摩爾線程創(chuàng)始人兼 CEO 張建中給公司全體員工發(fā)了一封信。信中提到了很多關(guān)于過(guò)去三年研發(fā)工作的總結(jié)，以及未來(lái)發(fā)展規(guī)劃的內(nèi)容，不過(guò)，這封信的核心內(nèi)容是：摩爾線程將進(jìn)行一次崗位優(yōu)化，也就是裁員。對(duì)于這家中國(guó)本土新崛起的 GPU 芯片設(shè)計(jì)公司來(lái)說(shuō)，最近幾年的形勢(shì)，使得擺在他面前的機(jī)遇和挑戰(zhàn)都顯得很凸出。不僅摩爾線程，壁仞科技和沐曦集成電路也是近幾年中國(guó)本土表現(xiàn)非常凸出的 GPU 芯片創(chuàng)業(yè)公司，再加上老牌的景嘉微，以及其它幾家相關(guān)企業(yè)，把中國(guó)本土 GPU 技術(shù)
關(guān)鍵字： GPU

英偉達(dá)內(nèi)部人士確認(rèn)：11 月 16 日推出三款中國(guó)特供版 AI 芯片

IT之家 11 月 10 日消息，芯片咨詢(xún)公司 SemiAnalysis 昨日消息稱(chēng)，英偉達(dá)現(xiàn)已開(kāi)發(fā)出針對(duì)中國(guó)區(qū)的最新改良版 AI 芯片，包括 HGX H20、L20 PCle 和 L2 PCle。對(duì)于這一消息，英偉達(dá)內(nèi)部人士對(duì)銀柿財(cái)經(jīng)表示，消息屬實(shí)，本月 16 日將正式推出。此外，英偉達(dá)公司美國(guó)總部回復(fù)稱(chēng)：“很感謝和我們聯(lián)系，我們對(duì)這個(gè)消息目前還沒(méi)有任何評(píng)論?！盜T之家此前報(bào)道，Semianalysis 發(fā)布付費(fèi)文章，表示三款中國(guó)特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快
關(guān)鍵字：英偉達(dá) GPU 人工智能

Imagination 推出支持 DirectX 的高性能 GPU IP 新產(chǎn)品線

中國(guó)·上海 - 2023 年 11 月 7 日 - Imagination Technologies推出 IMG DXD，這是支持 DirectX 的高性能 GPU IP 新產(chǎn)品線的首款產(chǎn)品。基于硬件級(jí)別的 DirectX 11 Feature Level 11_0 接口實(shí)現(xiàn)，IMG DXD 可以運(yùn)行主流的DX11 PC 游戲以及其他基于Windows 的應(yīng)用程序和手機(jī)游戲。這款新產(chǎn)品已獲得桌面市場(chǎng)的授權(quán)許可。 Imagination Technologies 首席執(zhí)行官 Simon
關(guān)鍵字： Imagination DirectX GPU IP

Ventana 攜手 Imagination，合作開(kāi)發(fā)基于 RISC-V 的 CPU-GPU 平臺(tái)

IT之家 11 月 8 日消息，根據(jù) Jon Peddie Research 報(bào)道，Ventana Micro Systems 和 Imagination Technologies 兩家公司宣布合作，攜手構(gòu)建基于 RISC-V 的 CPU-GPU 平臺(tái)。IT之家注：Ventana Micro System 于去年 12 月推出了基于 RISC-V 的數(shù)據(jù)中心級(jí) Veyron V1 CPU IP，最高具有 8 位寬執(zhí)行能力和 3.60 GHz 的頻率。該 CPU IP 設(shè)計(jì)為每個(gè)集群打包 16 個(gè)
關(guān)鍵字： RISC-V CPU GPU

新規(guī)出臺(tái)后，英偉達(dá)的中國(guó)版GPU流向何處？

有跡象表明，由于美國(guó)對(duì)中國(guó)的制裁迅速加劇，英偉達(dá)及其合作伙伴正準(zhǔn)備向北美、拉丁美洲、歐洲、非洲、印度和日本推銷(xiāo)其 GPU 產(chǎn)品 A800。英偉達(dá)的 A800 是一款 Ampere 架構(gòu) GPU，旨在通過(guò)使用削減功能集來(lái)遵守美國(guó)制裁，從而在一組觸發(fā)美國(guó)制裁的 GPU 規(guī)格下解脫出來(lái)。可悲的是，對(duì)于英偉達(dá)來(lái)說(shuō)，最近幾周的制裁已經(jīng)加劇，因此，這款 CPU 不能再在中國(guó)大陸市場(chǎng)銷(xiāo)售?？萍忌虡I(yè)新聞網(wǎng)站 CRN 報(bào)道稱(chēng)，PNY、Colfax International、ASK 和 Elsa 等綠色團(tuán)隊(duì)合作伙伴現(xiàn)在都在
關(guān)鍵字： GPU 英偉達(dá)

蘋(píng)果連發(fā)三款3nm處理器，M3系列性能暴增

10 月 31 日早晨 8 點(diǎn)，蘋(píng)果舉行了新 Mac 發(fā)布會(huì)。發(fā)布會(huì)一開(kāi)始，蘋(píng)果就扔出了王炸，三款 M3 處理器，分別是 M3、M3 Pro 和 M3 Max，都是基于 3nm 制程工藝打造。三款處理器的細(xì)節(jié)如下：M3 最高采用 8 核心 CPU（4+4）、10 核心 GPU，24GB 統(tǒng)一內(nèi)存，比 M1 快 65%；M3 Pro 最高采用 12 核心 CPU（6+6），18 核心 GPU，36GB 統(tǒng)一內(nèi)存，比 M1 Pro 快 40%；M3 Max 最高采用 16 核心 CPU（12+4）、40 核心
關(guān)鍵字： GPU CPU