近兩年前，當(dāng)世界意識(shí)到生成式人工智能和實(shí)現(xiàn)該技術(shù)的強(qiáng)大芯片具有顛覆性的能力時(shí)，半導(dǎo)體行業(yè)受到了新的關(guān)注。雖然這種興趣的最大受益者是英偉達(dá)，但各種初創(chuàng)公司都在尋求挑戰(zhàn)這家人工智能芯片巨頭或?qū)ふ移渌梢灶嵏驳念I(lǐng)域。

雖然半導(dǎo)體初創(chuàng)企業(yè)面臨的風(fēng)險(xiǎn)仍然很高（其成本通常比早期軟件公司高得多），但它們可以從今年該行業(yè)可能增長(zhǎng) 20% 的預(yù)期中受益，部分原因是對(duì)人工智能芯片的強(qiáng)勁需求。

這為 Cerebras Systems、Hailo 和 Kneron 等 AI 芯片初創(chuàng)公司提供了空間，它們可以從研究公司 IDC 在 12 月預(yù)測(cè)的預(yù)計(jì)支出增長(zhǎng)中分一杯羹。其他希望顛覆 AI 計(jì)算芯片設(shè)計(jì)方式的半導(dǎo)體初創(chuàng)公司包括 Celestial AI、Eliyan、Rivos 和 Tenstorrent。

以下是 CRN 迄今為止評(píng)選出的 2024 年最熱門的 10 家半導(dǎo)體初創(chuàng)公司，除了上述初創(chuàng)公司外，還包括 MetisX、SiMa.ai 和 Taalas。

Celestial AI

David Lazovsky，創(chuàng)始人兼首席執(zhí)行官

Celestial AI 表示，其光子結(jié)構(gòu)光學(xué)互連技術(shù)克服了延遲和帶寬瓶頸，為人工智能計(jì)算的進(jìn)步鋪平了道路。

這家總部位于加州圣克拉拉的初創(chuàng)公司今年 3 月份宣布，已完成 1.75 億美元 C 輪融資，該輪融資金額「大幅超額」，由美國(guó)創(chuàng)新技術(shù)基金領(lǐng)投，其他幾家投資者也參與其中，其中包括 AMD 的風(fēng)險(xiǎn)投資部門、三星以及大眾集團(tuán)的控股公司保時(shí)捷。

同月，這家硅光子學(xué)初創(chuàng)公司表示，「目前正在設(shè)計(jì)光子結(jié)構(gòu)光學(xué)芯片，作為技術(shù)采用的初始階段」。據(jù) Celestial AI 稱，這種將光學(xué)芯片集成到多芯片封裝中的技術(shù)正日益成為高性能處理器的常態(tài)，與「其他最先進(jìn)技術(shù)」相比，它可以使封裝外帶寬提高 25 倍。

Cerebras Systems

Andrew Feldman，聯(lián)合創(chuàng)始人兼首席執(zhí)行官

Cerebras Systems 正在利用其 Wafer Scale Engine 芯片挑戰(zhàn) Nvidia 在 AI 計(jì)算領(lǐng)域的主導(dǎo)地位，據(jù)稱該芯片可實(shí)現(xiàn)卓越的每瓦性能和「前所未有的可擴(kuò)展性」。

今年 3 月，這家位于加州桑尼維爾的初創(chuàng)公司發(fā)布了第三代芯片 Wafer Scale Engine 3，并稱其性能是上一代芯片的兩倍，而且「功耗和價(jià)格相同」。WSE-3 由 4 萬(wàn)億個(gè)晶體管組成，采用臺(tái)積電的 5 納米工藝，集成 90 萬(wàn)個(gè) AI 核心和 44 GB 片上 SRAM，16 位浮點(diǎn)性能可達(dá) 125 千萬(wàn)億次。

該公司今年的其他里程碑包括與醫(yī)療巨頭梅奧診所進(jìn)行多年戰(zhàn)略合作，開(kāi)發(fā)多模式大型語(yǔ)言模型來(lái)改善患者的治療結(jié)果和診斷，與人工智能初創(chuàng)公司 Aleph Alpha 進(jìn)行多年合作，構(gòu)建安全的主權(quán)人工智能解決方案，以及為總部位于阿布扎比的科技控股集團(tuán) G42 奠基 Condor Galaxy 3 超級(jí)計(jì)算機(jī)。

Eliyan

Ramin Farjadrad，聯(lián)合創(chuàng)始人兼首席執(zhí)行官

Eliyan 希望通過(guò)其 NuLink PHY 互連技術(shù)打破芯片間帶寬障礙，幫助芯片設(shè)計(jì)師構(gòu)建更強(qiáng)大的基于芯片的處理器。

這家總部位于加州圣克拉拉的初創(chuàng)公司 3 月份宣布完成了一輪 6000 萬(wàn)美元的融資，由 Samsung Catalyst 和老虎全球管理公司 (Tiger Global Management) 共同領(lǐng)投，并得到英特爾和 SK 海力士的風(fēng)險(xiǎn)投資部門等其他投資者的支持。

今年早些時(shí)候，Eliyan 表示，它在物理層上推出了「性能最高」的解決方案，用于在單芯片架構(gòu)中連接多個(gè)芯片，并且采用了臺(tái)積電的 3 納米制造工藝，每條鏈路的速度高達(dá) 64 Gbps。

Hailo

Orr Danon，聯(lián)合創(chuàng)始人兼首席執(zhí)行官

Hailo 正在通過(guò)采用在成本和功耗性能優(yōu)化方面處于領(lǐng)先地位的芯片來(lái)加速邊緣生成 AI 工作負(fù)載，從而與 Nvidia 展開(kāi)競(jìng)爭(zhēng)。

這家總部位于以色列特拉維夫的初創(chuàng)公司 4 月份宣布，它從投資者那里籌集了 1.2 億美元，作為其 C 輪融資的延伸，同時(shí)推出了新的 Hailo-10 加速器，它可以為個(gè)人電腦和汽車信息娛樂(lè)系統(tǒng)等設(shè)備「以最小的功耗實(shí)現(xiàn)最大的 GenAI 性能」。

例如，該公司表示，Hailo-10 可以以每秒最多 10 個(gè) token 的速度運(yùn)行 70 億參數(shù)的 Llama 2 模型，同時(shí)僅使用 5 瓦的功率。對(duì)于 Stable Diffusion 2.1 模型，該芯片還可以在相同的功率范圍內(nèi)在 5 秒內(nèi)創(chuàng)建圖像。

Kneron

Albert Liu，創(chuàng)始人兼首席執(zhí)行官

Kneron 希望通過(guò) AI 芯片來(lái)削弱 Nvidia 的影響力，該芯片旨在降低企業(yè)的服務(wù)器成本，并在生成 AI 方面降低 PC 的價(jià)格和能耗。

這家總部位于加州圣地亞哥的初創(chuàng)公司于 6 月宣布推出其第二代「邊緣 GPT」服務(wù)器 KNEO 330，該公司表示，該服務(wù)器可將小型企業(yè)的 AI 成本降低 30%-40%。該服務(wù)器每秒可執(zhí)行 48 萬(wàn)億次運(yùn)算 (TOPS)，最多可同時(shí)連接 8 個(gè)，并且支持大型語(yǔ)言模型和檢索增強(qiáng)生成精度，可與云解決方案媲美。

Kneron 已從高通和富士康等投資者那里籌集了 1.9 億美元的資金，該公司還發(fā)布了第三代神經(jīng)處理單元 (NPU) KL830，旨在支持低成本的 AI PC 以及支持 AI 的物聯(lián)網(wǎng)應(yīng)用。

MetisX

Jim Kim，聯(lián)合創(chuàng)始人兼首席執(zhí)行官

MetisX 旨在通過(guò)開(kāi)發(fā)基于 Compute Express Link (CXL) 技術(shù)的智能內(nèi)存系統(tǒng)，使數(shù)據(jù)中心「更智能、更快速、更具成本效益」。

這家總部位于韓國(guó)首爾的初創(chuàng)公司 5 月份宣布，已從多家投資者處籌集了 4400 萬(wàn)美元的 A 輪融資，并表示計(jì)劃在美國(guó)建立業(yè)務(wù)并于明年推出針對(duì)超大規(guī)?？蛻舻男酒?/p>

該公司表示，已經(jīng)完成了矢量數(shù)據(jù)庫(kù)、大數(shù)據(jù)分析和 DNA 分析等大規(guī)模數(shù)據(jù)處理用例的原型。該公司報(bào)告稱，此類原型的性能比傳統(tǒng)服務(wù)器 CPU 提高了一倍。

Rivos

Puneet Kumar，聯(lián)合創(chuàng)始人兼首席執(zhí)行官

Rivos 希望通過(guò)結(jié)合高性能 RISC-V CPU 和數(shù)據(jù)并行加速器的芯片來(lái)撼動(dòng)數(shù)據(jù)中心市場(chǎng)，以實(shí)現(xiàn)數(shù)據(jù)分析和生成性 AI 工作負(fù)載。

這家總部位于加州圣克拉拉的初創(chuàng)公司由前谷歌、蘋果和英特爾工程師創(chuàng)立，今年 4 月宣布已從包括英特爾和戴爾科技集團(tuán)的風(fēng)險(xiǎn)投資部門在內(nèi)的多家投資者處獲得了超額認(rèn)購(gòu)的 A-3 輪融資，籌資逾 2.5 億美元。

該公司在 2 月份與蘋果達(dá)成訴訟和解后，宣布獲得資金，并表示將用這筆資金推出其首款硅片產(chǎn)品并擴(kuò)大團(tuán)隊(duì)。蘋果指控這家初創(chuàng)公司從這家科技巨頭挖走數(shù)十名工程師，竊取商業(yè)機(jī)密，而 Rivos 則以不公平競(jìng)爭(zhēng)為由對(duì)其提起反訴。

SiMa.ai

Krishna Rangasayee，創(chuàng)始人兼首席執(zhí)行官

SiMa.ai 希望利用強(qiáng)大而高效的芯片取代 Nvidia 在邊緣生成 AI 工作負(fù)載方面的份額，該芯片可以在一個(gè)「以軟件為中心」的平臺(tái)上處理各種各樣的模式。

這家總部位于加州圣何塞的初創(chuàng)公司 4 月份宣布已從投資者那里籌集了 7000 萬(wàn)美元，其中包括戴爾科技集團(tuán)的風(fēng)險(xiǎn)投資部門和 Cadence 設(shè)計(jì)系統(tǒng)公司執(zhí)行董事長(zhǎng) Lip-Bu Tan。

該公司表示，將利用這筆資金繼續(xù)滿足客戶對(duì)其第一代機(jī)器學(xué)習(xí)片上系統(tǒng) (MLSoC) 的需求，該芯片專門用于計(jì)算機(jī)視覺(jué)，同時(shí)加快開(kāi)發(fā)其第二代 MLSoC，該芯片支持多模式生成 AI 工作負(fù)載，包括語(yǔ)音、音頻、文本和圖像。

Tenstorrent

Jim Keller，首席執(zhí)行官

Tenstorrent 尋求通過(guò)銷售專用處理器與授權(quán)芯片技術(shù)供他人使用相結(jié)合的商業(yè)模式，在人工智能計(jì)算芯片設(shè)計(jì)方面開(kāi)辟一條新道路。

這家總部位于安大略省多倫多的初創(chuàng)公司于 2 月宣布，已與日本尖端半導(dǎo)體技術(shù)中心達(dá)成「多層次合作協(xié)議」，后者計(jì)劃利用 Tenstorrent 的 RISC-V 和小芯片技術(shù)開(kāi)發(fā)其 2 納米邊緣 AI 加速器。該公司還將擔(dān)任該芯片的聯(lián)合設(shè)計(jì)合作伙伴。

據(jù) The Information 6 月報(bào)道，這家初創(chuàng)公司去年籌集了由現(xiàn)代汽車集團(tuán)和三星 Catalyst Fund 領(lǐng)投的 1 億美元融資，現(xiàn)在又在由三星領(lǐng)投的新一輪融資中籌集了至少 3 億美元，這讓 Tenstorrent 的估值達(dá)到了 20 億美元。據(jù)報(bào)道，另一家韓國(guó)大公司 LG 電子也在就此輪融資進(jìn)行談判。

Taalas

Ljubisa Bajic，創(chuàng)始人兼首席執(zhí)行官

Taalas 試圖通過(guò)設(shè)計(jì)直接實(shí)現(xiàn)整個(gè) AI 模型的加速器芯片來(lái)顛覆 Nvidia 的通用 GPU 戰(zhàn)略，據(jù)稱這可以將成本降低多達(dá) 1,000 倍。

這家總部位于安大略省多倫多的初創(chuàng)公司由 Tenstorrent 創(chuàng)始人 Llubisa Bajic 領(lǐng)銜，于 3 月宣布已籌集 5000 萬(wàn)美元的融資，并透露了其計(jì)劃，即創(chuàng)建一個(gè)自動(dòng)化工作流程，將所有類型的深度學(xué)習(xí)模型硬連線到芯片中。

Taalas 表示，得益于這種設(shè)計(jì)方法，它能夠設(shè)計(jì)出一款包含整個(gè)大型 AI 模型的芯片，「而無(wú)需外部存儲(chǔ)器」。據(jù)這家初創(chuàng)公司稱，該芯片設(shè)計(jì)預(yù)計(jì)將提供比小型 GPU 數(shù)據(jù)中心更高的性能，這為其將 AI 計(jì)算成本降低 1,000 倍以上開(kāi)辟了道路。

該公司表示，計(jì)劃在第三季度流片首款大型語(yǔ)言模型芯片，并于明年第一季度向客戶推出。