色婷婷AⅤ一区二区三区|亚洲精品第一国产综合亚AV|久久精品官方网视频|日本28视频香蕉

          新聞中心

          EEPW首頁(yè) > 網(wǎng)絡(luò)與存儲(chǔ) > 市場(chǎng)分析 > AI SSD采購(gòu)容量預(yù)計(jì)突破45EB

          AI SSD采購(gòu)容量預(yù)計(jì)突破45EB

          作者: 時(shí)間:2024-08-13 來源: 收藏

          根據(jù) TrendForce 集邦咨詢最新的《Enterprise 》研究報(bào)告,由于 AI 需求大幅升溫,最近兩季 AI 服務(wù)器相關(guān)客戶向供應(yīng)商進(jìn)一步要求加單 Enterprise (企業(yè)級(jí)固態(tài)硬盤)。上游供應(yīng)商為了滿足 在 AI 應(yīng)用上的供給,加速制程升級(jí),開始規(guī)劃推出 2YY 產(chǎn)品,預(yù)期于 2025 年量產(chǎn)。

          本文引用地址:http://cafeforensic.com/article/202408/461945.htm

          TrendForce 集邦咨詢表示,AI 服務(wù)器客戶對(duì)供應(yīng)商加單的情況,導(dǎo)致 Enterprise SSD 合約價(jià)于 2023 年第四季至 2024 年第三季間的累積漲幅超過 80%。

          TrendForce 集邦咨詢?cè)趫?bào)告中指出,SSD 應(yīng)用于 AI 推理服務(wù)器,可在推理過程中協(xié)助調(diào)整、優(yōu)化 AI 模型,尤其 SSD 可以實(shí)時(shí)更新數(shù)據(jù),以便微調(diào)推理模型結(jié)果。AI 推理主要提供檢索增強(qiáng)生成 (RAG, Retrieval-Augmented Generation) 和大型語(yǔ)言模型 (LLM, Large Language Model) 服務(wù),而 SSD 可以儲(chǔ)存 RAG 和 LLM 參考的相關(guān)文檔和知識(shí)庫(kù),以生成含有更豐富信息的響應(yīng)。此外,隨著更多生成信息是以影片或相片顯示,其數(shù)據(jù)存儲(chǔ)量也相應(yīng)增加,因此,TLC/QLC(四層單元閃存)16TB 以上等大容量 SSD 便成為 AI 推理主要采用的產(chǎn)品。

          現(xiàn)在大家都知道,想要大模型有更高質(zhì)量的輸出,就需要高質(zhì)量的數(shù)據(jù),而且是大量的高質(zhì)量數(shù)據(jù)。所以,存儲(chǔ)系統(tǒng)的第一個(gè)作用就是:承擔(dān)起存儲(chǔ)大量數(shù)據(jù)的能力。

          有人預(yù)測(cè)數(shù)據(jù)集會(huì)呈指數(shù)級(jí)增長(zhǎng),如此多的數(shù)據(jù),說到底還需要服務(wù)器和存儲(chǔ)來承擔(dān),如果還是用機(jī)械硬盤,則需要非常多的硬件系統(tǒng),這對(duì)于數(shù)據(jù)中心空間,能耗和散熱都是挑戰(zhàn)。

          而如果換成 SSD 閃存存儲(chǔ)后,其單位能耗可以輸出更高的性能,有助于省電。同時(shí),更高的單盤容量可以減少硬件系統(tǒng)數(shù)量,進(jìn)而減少數(shù)據(jù)中心機(jī)房空間占用,省下更多成本。

          在 AI 同樣非?;馃岬谋泵赖仁袌?chǎng)上,對(duì)高容量 SSD 的需求正在快速上升。企業(yè)和數(shù)據(jù)中心正在尋求大容量的存儲(chǔ)解決方案來應(yīng)對(duì)不斷增長(zhǎng)的 AI 相關(guān)數(shù)據(jù)。

          AI 的場(chǎng)景大致分為模型訓(xùn)練和推理兩大部分。

          其中,訓(xùn)練主要在數(shù)據(jù)中心內(nèi)部完成,涉及的主要操作包括數(shù)據(jù)攝?。↖ngest)、Checkpoint 創(chuàng)建等。當(dāng)然,需要?dú)w檔的數(shù)據(jù)也都存放在資源充裕的數(shù)據(jù)中心里。而推理既可以在數(shù)據(jù)中心內(nèi)部完成,也可以在近邊緣和遠(yuǎn)邊緣端完成。

          數(shù)據(jù)準(zhǔn)備的過程主要發(fā)生在數(shù)據(jù)中心和近邊緣端,也會(huì)有少部分發(fā)生在遠(yuǎn)邊緣端。可以說,幾乎所有場(chǎng)景中都離不開存儲(chǔ)的支持,都需要存儲(chǔ)具有處理大量數(shù)據(jù)的能力,都需要有盡可能高的讀寫性能。

          此時(shí),閃存存儲(chǔ)的優(yōu)勢(shì)就非常明顯。

          在 AI 浪潮的推動(dòng)下,美國(guó)頂級(jí)科技公司的數(shù)據(jù)中心正加速?gòu)?HDD 轉(zhuǎn)向企業(yè)級(jí) SSD。比如:大型科技公司如特斯拉在擴(kuò)大 AI 服務(wù)器建設(shè)時(shí),紛紛選擇增加 SSD 的采購(gòu)量,以滿足日益增長(zhǎng)的數(shù)據(jù)處理需求。

          AI SSD 需求位元年增率超過 60%,供應(yīng)商加快大容量產(chǎn)品開發(fā)

          2024 年 AI 服務(wù)器 SSD 市場(chǎng)除了 16TB 以上產(chǎn)品需求自第二季大幅上升,隨著 NVIDIA H100、H20 和 H200 等系列產(chǎn)品到貨,相關(guān)客戶進(jìn)一步加大 TLC 4、8TB Enterprise SSD 訂單需求。根據(jù) TrendForce 集邦咨詢預(yù)估,今年 AI 相關(guān) SSD 采購(gòu)容量將超過 45EB,未來幾年,AI 服務(wù)器有望推動(dòng) SSD 需求年增率平均超過 60%,而 AI SSD 需求在整個(gè) NAND Flash(閃存)的占比有機(jī)會(huì)自 2024 年的 5%,上升至 2025 年的 9%。

          不過,戴爾公司副董事長(zhǎng)兼首席運(yùn)營(yíng)官 Jeff Clarke 在財(cái)報(bào)電話會(huì)議上透露,由于成本上升和供需關(guān)系緊張,預(yù)計(jì) 2024 年下半年 SSD 價(jià)格將再攀升 20%。這一消息無(wú)疑給計(jì)劃購(gòu)買或升級(jí) SSD 的用戶帶來了不小的壓力。

          業(yè)內(nèi)專家分析認(rèn)為,SSD 價(jià)格的上漲與原材料成本的增加密切相關(guān)。隨著全球原材料價(jià)格的持續(xù)上漲,SSD 的生產(chǎn)成本也在不斷攀升。此外,存儲(chǔ)器廠商為了擺脫虧損、改善盈利狀況,也開始尋求提高產(chǎn)品價(jià)格。這些因素共同推動(dòng)了 SSD 價(jià)格的上漲。

          對(duì)于用戶而言,面對(duì) SSD 價(jià)格的上漲,如何選擇合適的存儲(chǔ)設(shè)備成為了一個(gè)亟待解決的問題。一方面,用戶可以根據(jù)自己的實(shí)際需求選擇性價(jià)比更高的存儲(chǔ)設(shè)備;另一方面,用戶也可以關(guān)注市場(chǎng)動(dòng)態(tài),抓住合適的時(shí)機(jī)進(jìn)行購(gòu)買或升級(jí)。



          關(guān)鍵詞: SSD

          評(píng)論


          相關(guān)推薦

          技術(shù)專區(qū)

          關(guān)閉