爆發(fā)式的人工智能熱潮同樣也在半導體行業(yè)引起轟動。英偉達是最大的贏家，其 GPU 對于訓練高級人工智能系統(tǒng)變得至關重要。韓國企業(yè)也是看中了這一點，三星電子和 SK 海力士專為諸如英偉達的 GPU 等量身定制高端內(nèi)存芯片。

三星電子計劃擴大其高帶寬內(nèi)存（HBM）芯片的生產(chǎn)，預估明年產(chǎn)量擴大至今年的兩倍半。SK 海力士明年也將增加設備投資，擴大 HBM 芯片生產(chǎn)。SK 海力士將在其現(xiàn)有的清州工廠增加一條 HBM 芯片所必需的封裝生產(chǎn)線。

HBM 是一種高端動態(tài)隨機存取存儲器（DRAM）芯片，采用堆疊技術，能夠比普通芯片更快地處理數(shù)據(jù)，并具有更高的能源效率。隨著大型科技公司熱衷于升級迭代其生成式人工智能工具，這些工具需要低功耗高效處理大量數(shù)據(jù)，HBM 銷售炙手可熱。

三星電子和 SK 海力士控制著超過 90% 的高端 DRAM 芯片市場。兩家公司表示，它們明年的 HBM 產(chǎn)能已被預訂完畢。2025 年的談判已經(jīng)開始了。HBM 的價格平均比普通 DRAM 芯片高出五至六倍，過去它在 DRAM 市場中所占份額僅為個位數(shù)，但其份額可能會大幅增加?；ㄆ旒瘓F的芯片分析師 Peter Lee 預計，HBM 的市場份額將增長 11%，并在 2027 年達到 30%。

內(nèi)存芯片不再是一般商品

長期以來，內(nèi)存芯片一直被視為一般商品，可以在各種應用中使用，無需進行復雜或定制化的加工。因此，生產(chǎn)商必須嚴格依賴規(guī)模經(jīng)濟來實現(xiàn)盈利，并且受市場波動的影響較大。然而，情況不再如此。隨著 HBM 制造變得更加復雜，技術化差異開始顯現(xiàn)，使得存儲具有更多的定制化可能性。

SK 海力士的 HBM3E 芯片 來源：SK 海力士

目前，SK 海力士是 HBM 市場的頭號玩家。根據(jù)集邦咨詢（TrendForce）的數(shù)據(jù)顯示，SK 海力士占據(jù) HBM 市場 50% 份額。SK 海力士的 HBM 芯片通過 MR-MUF 技術脫穎而出，使用液化填料粘合和保護連接每個堆疊晶圓的電路。MR-MUF 技術以提高能效而聞名。與常見的 NCF 封裝相比，NCF 封裝使用晶圓隔離墊，隨后必須被熔化，很難將熱量均勻傳遞給每個晶圓，收益率低。

SK 海力士將利用 MR-MUF 技術生產(chǎn)最新的 HBM3E 芯片，目前這些芯片尚未進行大規(guī)模生產(chǎn)。從 8 月開始，SK 海力士將向包括英偉達在內(nèi)的客戶提供樣品。

「直到現(xiàn)在，被視為大宗商品的內(nèi)存芯片一直專注于誰能做得更小并且堆疊層數(shù)更多，」SK 海力士 CEO 說道，「隨著人工智能時代的到來，客戶的服務多樣化，對內(nèi)存芯片的需求也有了各種規(guī)格。因此，內(nèi)存芯片在某些方面正在演變成在某些方面強大的定制產(chǎn)品?！?/span>

三星電子正在發(fā)展「處理內(nèi)存」（process-in-memory）技術，即在內(nèi)存芯片內(nèi)部集成邏輯單元，使得數(shù)據(jù)處理可以在內(nèi)存內(nèi)部完成，從而減少了數(shù)據(jù)傳輸量和能耗，并提高了處理效率。三星電子是在 2021 年首個開發(fā)該項技術的公司。

在今年的 Hot Chips 論壇，三星透露了一項和 AMD 合作完成的研究結(jié)果，其技術將使普通 HBM 的能效和性能達到翻倍以上。具體來說，三星將其 HBM-PIM 與 AMD 的 MI-100 GPU 加速器進行了整合。

三星電子負責 DRAM 業(yè)務的執(zhí)行副總裁 Hwang Sang-joon 表示：「HBM-PIM 通過在 DRAM 內(nèi)部嵌入數(shù)據(jù)計算功能，解決了內(nèi)存帶寬瓶頸問題，性能提升了 12 倍。一些特定功能，例如如語音識別，能效提高了四倍。」

新的合作伙伴關系即將到來

三星電子的代工業(yè)務吸引了一些正在跟隨人工智能熱潮的新客戶。其位于德克薩斯州泰勒的制造工廠目前正在建設中，今年早些時候確定了首位客戶——硅谷人工智能初創(chuàng)公司 Groq。使用三星的 4 納米技術制造的人工智能芯片將在該工廠于明年底前完成生產(chǎn)。

此外，三星最近與由半導體專家吉姆·凱勒領導的加拿大的新興人工智能芯片設計公司 Tenstorrent 建立了額外的合作伙伴關系。

三星電子 HBM3E 芯片 來源：三星

加拿大人工智能芯片設計公司 Tenstorrent 正在與韓國的人工智能芯片制造商 Rebellions 和 DeepX 合作。三星正在充分利用其半導體實力，同時經(jīng)營內(nèi)存芯片和代工業(yè)務。

自今年初以來，三星一直在提供所謂的「Package Turn Key」服務。三星充當一站式服務站，既代工處理器又將其與自己的內(nèi)存（包括 DRAM）封裝在一起，以節(jié)省時間和金錢。這種產(chǎn)品是為吸引尋求高性能半導體來支持其人工智能工具的大型科技公司而做出的努力。目前，三星是唯一能夠同時制造邏輯芯片和內(nèi)存芯片并對它們進行封裝的公司。

人工智能芯片已成為重要議題

考慮到人工智能及其所需的先進芯片需要巨額投資和基礎設施支持，政府的態(tài)度至關重要。

韓國政府計劃投資 8262 億韓元（約合 6.31 億美元），希望到 2030 年在韓國塑造一個以本土高端人工智能芯片為核心的人工智能生態(tài)系統(tǒng)。

「人工智能將對半導體、數(shù)據(jù)和平臺服務乃至安全產(chǎn)生重大影響?！鬼n國總統(tǒng)在九月份的一次政府間會議上表示。他說：「政府支持應該起到催化作用，以促進企業(yè)投資和創(chuàng)新?！?/span>

政府的中心倡議項目命名為「K-Cloud」。參與者包括人工智能芯片設計公司、云計算公司、學術專家和科學技術部，將花費約 1000 億韓元用于到 2025 年開發(fā)用于人工智能數(shù)據(jù)中心的神經(jīng)處理單元（NPU）。

K-Cloud 項目旨在建立基于新的 NPU 的數(shù)據(jù)中心集群，提供 39.9 petaflops 的人工智能計算能力，其中公共部門和私營部門分別提供 19.95 petaflops。1 petaflop 每秒執(zhí)行一千萬億（即一萬億億，或 10 的 15 次方）次計算。

在第二階段，該項目計劃在 2028 年基于 DRAM 技術創(chuàng)建一種低功耗的內(nèi)存內(nèi)處理（PIM）芯片。PIM 芯片整合了存儲和處理功能，以減少延遲并解決馮·諾伊曼瓶頸問題。

最后階段將在 2030 年之前，升級基于非易失性存儲器和超低能耗的 PIM 芯片。

根據(jù)市場跟蹤機構(gòu) Gartner 的預測，全球人工智能芯片市場預計到 2026 年將達到 861 億美元，每年增長 16%。

數(shù)據(jù)中心加入 AI 熱潮

另一個預計從人工智能技術中獲益的行業(yè)是數(shù)據(jù)中心。新冠疫情期間，數(shù)據(jù)中心和云計算的需求增加，生成式人工智能受到廣泛關注。公司將需要計算資源來訓練自己的大型語言模型，因此預計這一趨勢將進一步擴大。

韓國三家移動運營商——SK Telecom、KT 和 LG Uplus——在全國范圍內(nèi)共擁有 31 個數(shù)據(jù)中心，其中 18 個位于首爾。根據(jù)元大證券（Yuanta Securities）的報告，這三家公司占據(jù)了總數(shù)據(jù)中心容量的 93%。

「從 2028 年開始，互聯(lián)網(wǎng)數(shù)據(jù)中心市場將轉(zhuǎn)向以供應商為導向的模式?！乖笞C券分析師 Lee Seung-woong 表示：「到 2030 年，數(shù)據(jù)中心的需求可能會增加 1088 億韓元，而同期供應可能僅增加 609 億韓元。由于在短期內(nèi)供應很難超過需求，數(shù)據(jù)中心可能會在中長期內(nèi)提升電信公司的盈利能力?！?/span>

在韓國國內(nèi)擴大規(guī)模之后，SK Telecom 和 KT 計劃將它們的數(shù)據(jù)中心基礎設施出口海外，首選東南亞地區(qū)。

上個月，一場介紹其人工智能戰(zhàn)略的新聞發(fā)布會上，SK Telecom 的 CEO Ryu Young-sang 表示，該公司計劃將其數(shù)據(jù)中心的國內(nèi)容量增加一倍以上（從 1 億韓元增加到 2.07 億韓元），并與外國云服務提供商合作，將其基礎設施擴展到海外。

KT 旗下的云計算子公司 KT Cloud 于 5 月從當?shù)厮侥脊蓹?quán)公司 IMM Credit & Solutions 獲得了 6000 億韓元的資金，用于擴大其基礎設施云和數(shù)據(jù)中心基礎設施。預計到 2026 年，其年收入將達到 2 萬億韓元。