AI 應(yīng)用百花齊放，兩大 AI 巨頭英偉達(dá)（NVIDIA）、AMD 全力沖刺高性能計(jì)算（HPC）市場(chǎng)，傳出包下臺(tái)積電今、明年 CoWoS 與 SoIC 先進(jìn)封裝產(chǎn)能。

臺(tái)積電高度看好 AI 相關(guān)應(yīng)用帶來的動(dòng)能，總裁魏哲家于 4 月法說會(huì)上修 AI 訂單能見度與營(yíng)收占比，其中，訂單能見度從原預(yù)期 2027 年拉長(zhǎng)到 2028 年。

臺(tái)積電認(rèn)為，服務(wù)器 AI 處理器今年貢獻(xiàn)營(yíng)收將增長(zhǎng)超過一倍，占公司 2024 年總營(yíng)收十位數(shù)低段（low-teens）百分比，預(yù)期未來 5 年服務(wù)器 AI 處理器年復(fù)合增長(zhǎng)率達(dá) 50%，2028 年將占臺(tái)積電營(yíng)收超過 20%。

業(yè)界指出，AI 需求強(qiáng)勁，亞馬遜 AWS、微軟、Google、Meta 等全球云端服務(wù)（CSP）四巨頭積極投入 AI 服務(wù)器軍備競(jìng)賽，使英偉達(dá)、AMD 等 AI 芯片大廠產(chǎn)品出現(xiàn)供不應(yīng)求盛況，并對(duì)臺(tái)積電先進(jìn)制程、先進(jìn)封裝全力下單，以應(yīng)對(duì)云端服務(wù)大廠龐大訂單需求，臺(tái)積電 2024 與 2025 年 CoWoS 或 SoIC 等先進(jìn)封裝產(chǎn)能都已全數(shù)被包下。

因應(yīng)客戶龐大需求，臺(tái)積電正積極擴(kuò)充先進(jìn)封裝產(chǎn)能。業(yè)界推估，今年底臺(tái)積電 CoWoS 月產(chǎn)能上看 4.5 萬~5 萬片，較 2023 年的 1.5 萬片呈現(xiàn)倍數(shù)增長(zhǎng)，2025 年底 CoWoS 月產(chǎn)能更將攀上 5 萬片新高峰。

SoIC 方面，預(yù)期今年底月產(chǎn)能可達(dá)五、六千片，同樣較 2023 年底的 2000 片倍數(shù)增長(zhǎng)，并于 2025 年底沖上單月 1 萬片規(guī)模。由于大廠全數(shù)包下產(chǎn)能，臺(tái)積電相關(guān)產(chǎn)能利用率將維持高檔水平。

據(jù)了解，英偉達(dá)目前量產(chǎn)出貨主力 H100 芯片主要采用臺(tái)積電 4nm 制程，并采用 CoWoS 先進(jìn)封裝，與 SK 海力士的高帶寬內(nèi)存（HBM）以 2.5D 封裝形式供貨客戶。

至于英偉達(dá)新一代的 Blackwell 架構(gòu) AI 芯片同樣采用臺(tái)積電 4nm 制程，是以加強(qiáng)版 N4P 生產(chǎn)，同時(shí)搭載更高容量及更新規(guī)格的 HBM3e 高帶寬內(nèi)存，因此計(jì)算能力將比 H100 系列倍數(shù)增長(zhǎng)。

另外，AMD 的 MI300 系列 AI 加速器采用臺(tái)積電 5nm 與 6nm 制程生產(chǎn)，與英偉達(dá)不同之處在于，AMD 在先進(jìn)封裝上，先行采用臺(tái)積電 SoIC 將 CPU、GPU 晶粒做垂直堆疊整合，再與 HBM 做 CoWoS 先進(jìn)封裝，因此制程良率多了一道先進(jìn)封裝難度較高的 SoIC 制程。

先進(jìn)封裝成未來決勝點(diǎn)

知識(shí)力專家社群創(chuàng)辦人曲博指出，晶體管越小，理論上芯片就越小，一片晶圓能做出來的芯片就會(huì)變多，所以理論上單位成本會(huì)隨晶體管的縮小而降低。然而，先進(jìn)制程發(fā)展到一個(gè)程度之后，技術(shù)復(fù)雜度大幅增加，特別是極紫外光（EUV）一旦用下去，成本立刻暴增，導(dǎo)致進(jìn)入 3nm，成本不但下不來，反而是增加，更遑論未來進(jìn)入 2nm 甚至 1nm。

無論是晶體管縮小來到極限，抑或是成本因素的考量，未來半導(dǎo)體產(chǎn)業(yè)的重要發(fā)展，就是采用先進(jìn)封裝技術(shù)把不同的芯片堆起來，讓晶體管的密度再增加。日前，臺(tái)積電已推出其晶圓級(jí)系統(tǒng)（SoW）產(chǎn)品，該產(chǎn)品允許封裝大量芯片（邏輯芯片、復(fù)合 SoIC 封裝、HBM 和其它芯片），以及在完整 12 英寸硅晶圓尺度上的電源和熱模組。與 CoWoS 和 3D SoIC 相比，先進(jìn)封裝復(fù)雜性和能力的顯著提升，因?yàn)檎麄€(gè)計(jì)算系統(tǒng)可能會(huì)被封裝在單一晶圓中。

但曲博也提醒，臺(tái)積電投入這一塊雖然花了很多功夫，但是先進(jìn)封裝這個(gè)領(lǐng)域英特爾（Intel）其實(shí)技術(shù)也是很強(qiáng)的，大家一定要分清楚一件事，在「先進(jìn)封裝」上，臺(tái)積電并沒有絕對(duì)領(lǐng)先英特爾，臺(tái)積電是在「先進(jìn)制程」上領(lǐng)先英特爾。所以隨著先進(jìn)封裝這個(gè)領(lǐng)域的重要性慢慢提高，臺(tái)積電并沒有放松的本錢。也可預(yù)見，中國(guó)臺(tái)灣相關(guān)先進(jìn)封裝設(shè)備與技術(shù)的供應(yīng)鏈廠商，未來應(yīng)該會(huì)有不錯(cuò)的成長(zhǎng)空間。

生成式人工智能仰賴大型語言模型的訓(xùn)練，現(xiàn)在的做法是分三階段，第一個(gè)階段是「預(yù)訓(xùn)練」、第二個(gè)階段是「微調(diào)」（Fine Tune）、最后一個(gè)階段是「推理」。預(yù)訓(xùn)練需要大量的 GPU 運(yùn)算，訓(xùn)練一個(gè)月的成本就要 1000 萬美金。但是微調(diào)就不一樣，微調(diào)是用大量的數(shù)據(jù)進(jìn)行標(biāo)注、微調(diào)參數(shù)而已，所以并不需要大量的算力，而是需要大量的高帶寬內(nèi)存（HBM）。

頂級(jí) GPU 太貴、中小企業(yè)想用卻用不起。GPU 決定算力、HBM 則決定模型大小，群聯(lián)董事長(zhǎng)潘健成就曾指出，群聯(lián)以 SSD 取代造價(jià)高昂的 HBM 系統(tǒng)，加上英偉達(dá)消費(fèi)級(jí) GPU 打造，將傳統(tǒng)工作站升級(jí)為小規(guī)模 AI 服務(wù)器，硬件成本大幅降低;盡管運(yùn)算速度仍不如大型 CSP 運(yùn)端運(yùn)算，不過相當(dāng)具備成本優(yōu)勢(shì);他打比方說道，例如臺(tái)北到高雄坐飛機(jī)其實(shí)最快、但是高鐵才是性價(jià)比最高的選擇。