AMD Instinct加速器系列亮相Computex 2024
加入技術(shù)交流群
AMD董事長(zhǎng)兼首席執(zhí)行官麗莎Su博士在Computex主題演講中公布了AMD Instinct加速器系列的重大進(jìn)展。該公司宣布了加速器的擴(kuò)展多年路線圖，承諾每年改進(jìn)AI性能和內(nèi)存功能。這標(biāo)志著人工智能和數(shù)據(jù)中心工作負(fù)載的創(chuàng)新新時(shí)代。
本文引用地址：http://cafeforensic.com/article/202406/459558.htm
AMD Instinct MI325X加速器
更新的路線圖以新的AMD Instinct MI325X加速器開始，該加速器將于2024年第四季度上市。該加速器具有288GB的HBM3E內(nèi)存和每秒6 TB的內(nèi)存帶寬。它采用通用基板服務(wù)器設(shè)計(jì)，確保與AMD Instinct MI300系列兼容。
MI325X擁有業(yè)界領(lǐng)先的內(nèi)存容量和帶寬，性能分別是競(jìng)爭(zhēng)對(duì)手的2倍和1.3倍。它提供了比競(jìng)爭(zhēng)對(duì)手高1.3倍的計(jì)算性能，使其成為AI工作負(fù)載的強(qiáng)大工具。
下一代：MI350和MI400系列
繼MI325X之后，AMD Instinct MI350系列將采用全新的AMD CDNA 4架構(gòu)，預(yù)計(jì)將于2025年推出。該系列將在AI推理性能方面帶來實(shí)質(zhì)性飛躍，預(yù)計(jì)與AMD Instinct MI300系列相比將增加35倍。MI350X加速器將保持通用基板設(shè)計(jì)，采用先進(jìn)的3nm工藝技術(shù)，支持FP4和FP6 AI數(shù)據(jù)存儲(chǔ)器，并具有高達(dá)288GB的HBM3E內(nèi)存。
由AMD CDNA“Next”架構(gòu)驅(qū)動(dòng)的AMD Instinct MI400系列將于2026年發(fā)布。
AMD Instinct MI300X加速器的采用和影響
AMD Instinct MI 300 X加速器已被主要合作伙伴和客戶廣泛采用，包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD數(shù)據(jù)中心加速計(jì)算公司副總裁布拉德·麥克雷迪（Brad McCredie）強(qiáng)調(diào)了MI 300 X加速器的卓越性能和價(jià)值主張，并指出了它們?cè)谕苿?dòng)人工智能創(chuàng)新方面的重要作用。他說：“隨著我們每年更新產(chǎn)品的節(jié)奏，我們堅(jiān)持不懈地推進(jìn)創(chuàng)新步伐，為人工智能行業(yè)提供領(lǐng)導(dǎo)能力和性能，我們的客戶希望推動(dòng)數(shù)據(jù)中心人工智能培訓(xùn)和推理的下一次發(fā)展。
AMD AI軟件生態(tài)系統(tǒng)的進(jìn)步
AMD ROCm 6開放軟件堆棧不斷成熟，使AMD Instinct MI 300 X加速器能夠?yàn)榱餍械拇笮驼Z言模型（LLM）提供令人印象深刻的性能。在使用八個(gè)AMD Instinct MI 300 X加速器和運(yùn)行Meta Llama-3 70 B的ROCm 6的服務(wù)器上，客戶可以實(shí)現(xiàn)比競(jìng)爭(zhēng)對(duì)手高1.3倍的推理性能和令牌生成。
此外，在Mistral-7 B上，一臺(tái)配備ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表現(xiàn)可超過競(jìng)爭(zhēng)對(duì)手1.2倍。
AMD與最大的AI模型庫Hugging Face的合作進(jìn)一步強(qiáng)調(diào)了生態(tài)系統(tǒng)的穩(wěn)健性。Hugging Face每晚測(cè)試700，000個(gè)最受歡迎的型號(hào)，以確保在AMD Instinct MI300X加速器上實(shí)現(xiàn)無縫功能。AMD還在繼續(xù)其與流行的AI框架（如PyTorch、TensorFlow和JAX）的上游工作，以確保廣泛的兼容性和增強(qiáng)的性能。
關(guān)鍵路線圖亮點(diǎn)
在主題演講中，AMD公布了AMD Instinct加速器路線圖的最新年度節(jié)奏，以滿足對(duì)人工智能計(jì)算不斷增長(zhǎng)的需求。這確保了AMD Instinct加速器將繼續(xù)推動(dòng)下一代前沿AI模型的開發(fā)。
- AMD Instinct MI325X加速器：將于2024年第四季度推出，該加速器將配備288GB HBM3E內(nèi)存，每秒6 TB的內(nèi)存帶寬，以及行業(yè)領(lǐng)先的內(nèi)存容量和帶寬。與競(jìng)爭(zhēng)對(duì)手相比，它的計(jì)算性能提高了1.3倍。
- AMD Instinct MI350系列：預(yù)計(jì)在2025年，MI350X加速器將基于AMD CDNA 4架構(gòu)，并使用先進(jìn)的3nm工藝技術(shù)。它將支持FP4和FP6 AI數(shù)據(jù)庫，并包括高達(dá)288GB的HBM3E內(nèi)存。
- AMD Instinct MI400系列：計(jì)劃于2026年推出，該系列將利用AMD CDNA“Next”架構(gòu)，引入新特性和功能，以增強(qiáng)AI訓(xùn)練和推理性能。
廣泛的行業(yè)采用
對(duì)AMD Instinct MI300X加速器的需求持續(xù)增長(zhǎng)，眾多合作伙伴和客戶利用這些加速器來處理要求苛刻的人工智能工作負(fù)載。
AMD在Computex 2024上推出了擴(kuò)展的Instinct加速器路線圖，標(biāo)志著該公司在人工智能和數(shù)據(jù)中心戰(zhàn)略的重要里程碑，展示了其技術(shù)創(chuàng)新和市場(chǎng)競(jìng)爭(zhēng)力，同時(shí)也為未來的產(chǎn)品發(fā)展和生態(tài)系統(tǒng)建設(shè)奠定了基礎(chǔ)。
評(píng)論