據(jù)報道，三星推出了一款名為 CXL 分層內(nèi)存混合內(nèi)存模塊 (CMM-H TM：CXL Memory Module-Hybrid for Tiered Memory) 的新型 Compute Express Link (CXL)附加卡，該卡添加了可由 CPU 和加速器遠(yuǎn)程訪問的額外 RAM 和閃存。該擴(kuò)展卡混合了高速DRAM和NAND閃存，旨在提供一種經(jīng)濟(jì)高效的方式來提高服務(wù)器的內(nèi)存容量，而無需使用本地安裝的DDR5內(nèi)存，而這在超額認(rèn)購的服務(wù)器中通常是不可行的。

三星的解決方案在Compute Express Link (CXL)上運行，這是一種開放式行業(yè)標(biāo)準(zhǔn)，可在 CPU 和加速器之間提供緩存一致性互連，從而允許 CPU 使用與利用 CXL 的連接設(shè)備相同的內(nèi)存區(qū)域。遠(yuǎn)程存儲器（或者在本例中為混合 RAM/閃存設(shè)備）可通過 PCIe 總線訪問，但代價是大約 170-250 納秒的延遲，或者大約是 NUMA 跳的成本。

CXL 于 2019 年推出，目前處于第三個版本，支持 PCIe 6.0。

CXL 規(guī)范支持三種類型的設(shè)備：Type 1 設(shè)備是缺乏本地內(nèi)存的加速器，Type 2 設(shè)備是具有自己內(nèi)存的加速器（例如具有 DDR 或 HBM 的 GPU、FPGA 和 ASIC），Type 3 設(shè)備由內(nèi)存設(shè)備組成。三星設(shè)備屬于 Type 3 類別。

CMM-H TM 是三星CMM-H CXL 內(nèi)存解決方案的一個分支。三星表示，它是世界上第一個基于FPGA的分層 CXL 內(nèi)存解決方案，旨在“應(yīng)對內(nèi)存管理挑戰(zhàn)，減少停機(jī)時間，優(yōu)化分層內(nèi)存的調(diào)度，并最大限度地提高性能，同時顯著降低總擁有成本。”

這種新的 CMM-H 速度不如 DRAM；然而，它通過閃存增加了強(qiáng)大的容量，但通過擴(kuò)展卡內(nèi)置的巧妙的內(nèi)存緩存功能隱藏了大量延遲。熱數(shù)據(jù)被轉(zhuǎn)移到卡的 DRAM 芯片中以提高速度，而較少使用的數(shù)據(jù)則存儲在 NAND 存儲中。三星表示，這種行為會自動發(fā)生，但某些應(yīng)用程序和工作負(fù)載可以通過 API 向設(shè)備發(fā)出提高性能的提示。當(dāng)然，這會增加緩存數(shù)據(jù)的一些延遲，這并不適合所有用例，特別是那些依賴嚴(yán)格 99% 性能的用例。

三星的新型擴(kuò)展卡將為客戶提供擴(kuò)展服務(wù)器內(nèi)存容量的新方法。隨著更先進(jìn)的大型語言模型繼續(xù)要求其主機(jī)和加速器提供更多內(nèi)存，這種新的設(shè)計范例變得越來越重要。

三星公布3D DRAM規(guī)劃

全球最大的存儲芯片制造商三星電子公司計劃于2025年推出人工智能行業(yè)游戲規(guī)則改變者三維(3D) DRAM，目前以規(guī)模較小的競爭對手SK海力士公司主導(dǎo)的全球人工智能半導(dǎo)體市場。

3D為主導(dǎo)的DRAM芯片通過垂直互連單元而不是像目前那樣水平放置它們，能將單位面積的容量增加了三倍。相比之下，高帶寬內(nèi)存（HBM）垂直互連多個DRAM芯片。據(jù)首爾的半導(dǎo)體行業(yè)消息知情人士周二透露，三星上個月在加利福尼亞州圣何塞舉行的全球芯片制造商聚會Memcon 2024上公布了其3D DRAM開發(fā)路線圖。

這家總部位于韓國水原的巨頭計劃于2025年推出基于垂直溝道晶體管技術(shù)的早期版本3D DRAM，該技術(shù)在構(gòu)成單元的晶體管中該垂直設(shè)置溝道（電子流動的通道），并用充當(dāng)開關(guān)的門。公司還計劃在2030年推出一個式DRAM，將包括在內(nèi)部的所有單元都在一起。

目前 DRAM 在主板上包含多達(dá) 620 億個單元，晶體管在平面上密集集成，這使得不可能避免漏電流和干擾。由于 3D DRAM 中的晶體管由于可以在同一上放置更多單元，因此3D DRAM預(yù)計將增加單位芯片內(nèi)的容量。

3D DRAM的基本容量為100 GB，幾乎是當(dāng)前可用DRAM最大容量36 GB的三倍。有消息稱，到2030年，全球3D DRAM市場可能會增長到1000億美元，但由于市場仍處于起步階段AI半導(dǎo)體市場的領(lǐng)導(dǎo)者該技術(shù)有望幫助三星審視全球AI半導(dǎo)體行業(yè)的王座，擊敗目前在AI芯片領(lǐng)域主導(dǎo)地位的SK海力士，他們在AI應(yīng)用的HBM、DRAM全球市場中占有90%的份額”業(yè)內(nèi)人士表示。

盡管三星的競爭對手（包括SK海力士和美光科技公司）一直在研究該技術(shù)，但尚未公布任何3D DRAM的路線圖。SK海力士在各個行業(yè)會議上介紹了其3D DRAM的概念。美光于2019年開始開發(fā)3D DRAM，擁有約30項該技術(shù)專利，是三大芯片制造商中最多的。

十多年來，隨著智能手機(jī)等配備DRAM的電子設(shè)備變得更小、功能更多，全球DRAM行業(yè)一直在開發(fā)具有更大數(shù)據(jù)處理能力的更小芯片。人工智能的快速發(fā)展需要快速大規(guī)模處理數(shù)據(jù)，這一趨勢正在加劇。3DDRAM預(yù)計將滿足此類芯片的需求，因為它比現(xiàn)有的DRAM更小，容量更大。

短期內(nèi)，新型半導(dǎo)體可能用于智能手機(jī)和筆記本電腦等小型信息技術(shù)設(shè)備，這些設(shè)備需要高性能 DRAM 來實現(xiàn)設(shè)備上的 AI 功能。汽車行業(yè)預(yù)計將長期使用 3D DRAM，因為電動汽車和自動駕駛汽車需要能夠?qū)崟r處理從道路收集的 DRAM 的大數(shù)據(jù)。

三星正在開發(fā)主導(dǎo)3D DRAM領(lǐng)域的技術(shù)，以期到2027年至2028年將其關(guān)鍵尺寸縮小到8-9納米(nm)。最新的DRAM預(yù)計為12 nm左右。該公司還積極擴(kuò)大3D DRAM研發(fā)人員隊伍它在其半導(dǎo)體研究中心針對該技術(shù)成立了下一代工藝開發(fā)團(tuán)隊。

來源：半導(dǎo)體行業(yè)觀察