英特爾AI平臺在微軟Phi-3 AI模型發(fā)布當天即實現(xiàn)優(yōu)化支持
近日,英特爾針對微軟的多個Phi-3家族的開放模型,驗證并優(yōu)化了其跨客戶端、邊緣和數(shù)據(jù)中心的AI產(chǎn)品組合。Phi-3家族的小型開放模型可在低算力的硬件上運行,且更容易微調(diào)以滿足特定的用戶要求,使開發(fā)者能夠輕松構(gòu)建在本地運行的應(yīng)用。支持該模型的產(chǎn)品組合包括面向數(shù)據(jù)中心應(yīng)用的英特爾?至強?處理器、英特爾? Gaudi AI加速器,以及面向客戶端的英特爾?酷睿? Ultra處理器和英特爾銳炫?顯卡。
本文引用地址:http://cafeforensic.com/article/202405/459068.htm英特爾?酷睿? Ultra處理器支持Phi-3家族開放模型
“我們?yōu)榭蛻艉烷_發(fā)者提供強大的AI解決方案,這些解決方案采用了業(yè)界最新的AI模型與軟件。英特爾與微軟等AI軟件生態(tài)系統(tǒng)領(lǐng)軍企業(yè)的深入合作,是推動AI無處不在的關(guān)鍵。此次,我們非常高興能與微軟攜手,使涵蓋數(shù)據(jù)中心、邊緣以及客戶端的一系列英特爾硬件產(chǎn)品為多種新的Phi-3模型提供支持。”
——Pallavi Mahajan,英特爾公司副總裁兼數(shù)據(jù)中心與人工智能軟件總經(jīng)理
重要意義:為了推動AI無處不在,英特爾通過與AI領(lǐng)導(dǎo)者和創(chuàng)新者合作,持續(xù)深耕AI軟件生態(tài)系統(tǒng)。
英特爾與微軟合作,其產(chǎn)品組合在發(fā)布當天即為Phi-3模型提供支持,其中包含英特爾中央處理器 (CPU)、圖形處理單元 (GPU) 和英特爾Gaudi加速器。此外,英特爾與微軟在DeepSpeed中共同設(shè)計了一款易用的深度學(xué)習(xí)優(yōu)化軟件套件——加速器抽象層,并拓展了Hugging Face上Phi-3和其他模型的自動張量并行支持。
Phi-3模型的大小非常適用于設(shè)備端推理,并讓在AI PC和邊緣設(shè)備上進行微調(diào)或定制等輕量級模型開發(fā)成為可能。同時,英特爾客戶端硬件通過全面的軟件框架和工具實現(xiàn)加速,其中包括PyTorch和用于本地研發(fā)的英特爾? PyTorch擴展包,以及用于模型開發(fā)和推理的OpenVINO?工具包。
未來,英特爾將持續(xù)滿足企業(yè)用戶的生成式AI需求,并將繼續(xù)支持和優(yōu)化針對Phi-3及其他行業(yè)領(lǐng)先語言模型的軟件。
評論