紅帽O(jiān)penShift AI加速混合云中的生成性AI采用
為專業(yè)合作伙伴生態(tài)系統(tǒng)提供強大、可擴展的基礎(chǔ),包括IBM下一代AI創(chuàng)新成果watsonx.ai
本文引用地址:http://cafeforensic.com/article/202305/447101.htm中國北京 – 紅帽峰會 – 2023年5月29日 – 世界領(lǐng)先的開源解決方案供應(yīng)商紅帽日前宣布為紅帽OpenShift AI再添多項新功能。紅帽OpenShift AI基于開源技術(shù),以紅帽OpenShift和紅帽OpenShift 數(shù)據(jù)科學(xué)為基礎(chǔ)進行構(gòu)建,并在此基礎(chǔ)上進一步擴展后,能夠為IT領(lǐng)導(dǎo)者提供一致且可擴展的基礎(chǔ),同時為數(shù)據(jù)科學(xué)家和開發(fā)人員創(chuàng)建專業(yè)合作伙伴生態(tài)系統(tǒng),幫助他們獲取AI領(lǐng)域的創(chuàng)新成果。為實現(xiàn)這一目的,紅帽OpenShift AI為IBM watsonx.AI的生成式AI服務(wù)提供支撐。作為IBM的人工智能平臺,watsonx.ai可以擴展企業(yè)各方面的智能應(yīng)用和服務(wù),推進下一代基礎(chǔ)模型的采用。
隨著GPT-4和LLaMA等大型語言模型 (LLM) 成為主流,所有領(lǐng)域和行業(yè)的研究人員,及應(yīng)用開發(fā)人員都在探索如何從這些以及其他基礎(chǔ)模型中獲益??蛻艨梢允褂冕槍μ囟I(lǐng)域的數(shù)據(jù)對商業(yè)或開源模型進行微調(diào),使其更準(zhǔn)確地匹配特定的用例。AI模型的初始訓(xùn)練會耗費大量基礎(chǔ)設(shè)施資源,需要使用專門的平臺和工具,然后才能考慮服務(wù)、調(diào)整和模型管理。如果沒有一個能夠滿足這些需求的平臺,企業(yè)在實際使用AI/ML方面往往會面臨諸多局限性。
OpenShift AI通過采用一致的基礎(chǔ)設(shè)施進行訓(xùn)練、部署和推理而應(yīng)對這些挑戰(zhàn),以充分發(fā)揮AI的潛力。
面向開放混合云的AI
紅帽OpenShift AI為創(chuàng)建用于生產(chǎn)環(huán)境的AI/ML模型,以及運行最終應(yīng)用提供了標(biāo)準(zhǔn)化基礎(chǔ),有助于消除多項障礙。OpenShift AI為紅帽OpenShift提供了一致性、易用性和從云到邊緣的部署選項。平臺工程師可以根據(jù)數(shù)據(jù)科學(xué)家和開發(fā)人員的需求創(chuàng)建可擴展的配置。OpenShift AI可用于微調(diào)現(xiàn)有的模型,從而節(jié)省初始模型訓(xùn)練成本,加速實現(xiàn)價值的速度,并使AI可供專業(yè)數(shù)據(jù)科學(xué)家之外的其他人員使用。
紅帽OpenShift AI提供了多種可選的技術(shù)合作伙伴產(chǎn)品,包括Anaconda、IBM Watson Studio、Intel OpenVINO和AI Analytics Toolkit、NVIDIA AI Enterprise以及Starburst。作為OpenShift生態(tài)系統(tǒng)的一部分,該解決方案還可接入另外30個AI/ML認(rèn)證合作伙伴的產(chǎn)品。
對于需要滿足特定監(jiān)管和合規(guī)要求的客戶,包括物理隔離和無連接的環(huán)境,他們可以使用OpenShift AI準(zhǔn)備數(shù)據(jù),并在本地開發(fā)、訓(xùn)練和部署模型。客戶還可以在公有云中開發(fā)模型,并使用相同的一致工具和接口在本地或邊緣部署模型,從而提供獨特的混合MLOps環(huán)境,推動IT運營、數(shù)據(jù)科學(xué)和應(yīng)用開發(fā)人員之間的協(xié)作。
OpenShift AI的基礎(chǔ)經(jīng)過驗證,使客戶能夠在本地或通過云服務(wù)使用OpenShift的原生GPU加速功能更可靠地擴展,從而對基礎(chǔ)模型進行訓(xùn)練。
紅帽OpenShift AI最新增強的功能包括:
? 用于AI/ML實驗跟蹤和自動化ML工作流的部署管道,可幫助數(shù)據(jù)科學(xué)家和智能應(yīng)用開發(fā)人員更快地迭代機器學(xué)習(xí)項目,并將自動化結(jié)合到應(yīng)用部署和更新中。
? 模型服務(wù)現(xiàn)在包括GPU對推理的支持,以及可以提高推理性能的定制模型服務(wù)運行時,并改進了基礎(chǔ)模型的部署。
? 模型監(jiān)控使企業(yè)能夠通過中央儀表板來管理性能和運營指標(biāo)。
OpenShift AI助力IBM watsonx和Ansible Lightspeed
紅帽OpenShift AI為IBM人工智能技術(shù)的最新成果提供了基礎(chǔ),包括IBM Watson Code Assistant,可為您的IT組織和開發(fā)團隊提供針對特定領(lǐng)域的人工智能。
Ansible Lightspeed將IBM Watson Code Assistant的強大能力帶到Ansible中,使不同技能等級的用戶都能使用人工智能生成的建議編寫Ansible操作手冊。Ansible Lightspeed有助于提高Ansible用戶的生產(chǎn)力,無論他們在自動化方面的熟練程度如何,都能用英語命令創(chuàng)建Ansible操作手冊。
各行各業(yè)的企業(yè)紛紛使用紅帽OpenShift AI推動AI/ML創(chuàng)新,其中包括:
? Atruvia,為全球金融機構(gòu)提供IT服務(wù)(包括人工智能)的德國公司,部署了基于紅帽OpenShift AI的數(shù)據(jù)科學(xué)平臺。
? Clalit Health Care Services,以色列最大的醫(yī)療服務(wù)機構(gòu),選擇使用紅帽OpenShift AI作為構(gòu)建臨床研究人工智能模型的基礎(chǔ)。
? Guidehouse,全球咨詢和管理服務(wù)提供商,選擇使用紅帽OpenShift AI作為綜合平臺的組成部分。
? Tirando X Colombia,哥倫比亞一家以生殖健康為核心業(yè)務(wù)的非營利組織,部署了紅帽OpenShift AI用于優(yōu)化其AI/ML工作。
? Veripark,為金融服務(wù)組織提供解決方案的全球供應(yīng)商,使用紅帽OpenShift 數(shù)據(jù)科學(xué)構(gòu)建了可以同時在云端和本地平臺上運行的全球AI/ML解決方案。
支持證言
Chris Wright,紅帽首席技術(shù)官兼全球工程高級副總裁
“在充分利用人工智能獲得好處方面,基礎(chǔ)模型可以為企業(yè)提供實實在在的好處,但仍需要在訓(xùn)練和微調(diào)方面進一步投資,以滿足企業(yè)的獨特需求。紅帽的企業(yè)級AI愿景依托紅帽OpenShift AI的當(dāng)前能力而制定,為基礎(chǔ)模型在生產(chǎn)中的訓(xùn)練、維護、微調(diào)和實際使用奠定了靈活而且可擴展的基礎(chǔ)。最重要的是,OpenShift AI依然是OpenShift,這意味著IT組織信任并理解它,并且可以擴展AI/ML的應(yīng)用范圍,從而滿足當(dāng)前和未來需求。”
Liora Shechter,Clalit首席信息官
“Clalit正在經(jīng)歷IT基礎(chǔ)架構(gòu)的演變和革新,而OpenShift是我們想要依賴的關(guān)鍵新基礎(chǔ)架構(gòu)之一。”
Sebastian Jaramillo,Tirando x Colombia社會創(chuàng)新經(jīng)理
“在紅帽團隊和紅帽OpenShift 數(shù)據(jù)科學(xué)的指導(dǎo)下,我們在應(yīng)用中成功優(yōu)化了端到端ML/AI流程管理。這個平臺對于推進我們的工作至關(guān)重要,并將對我們的業(yè)務(wù)增長產(chǎn)生重大影響。我們?yōu)椴捎脤ι鐣a(chǎn)生積極影響的技術(shù)而深感自豪。”
評論