紅帽宣布推出 Podman AI實驗室
世界領先的開源解決方案提供商紅帽公司近日宣布推出Podman AI實驗室,這是Podman桌面的一個新擴展。該實驗室通過一個直觀的圖形界面,使開發(fā)者能夠在本地工作站使用容器來構建、測試和運行基于生成式人工智能(GenAI)的應用程序。此舉旨在推動GenAI的普及,同時允許開發(fā)者在保持對敏感數據所有權和控制權的同時,享受本地開發(fā)的便利、簡潔和成本效益。
本文引用地址:http://cafeforensic.com/article/202405/459111.htm最近,GenAI和開源大語言模型(LLM)的興起標志著一個新時代的開始,這個時代在很大程度上依賴于AI應用的計算能力。企業(yè)正迅速積累專業(yè)知識、流程和工具,以保持其市場競爭力。行業(yè)分析公司IDC注意到了這一轉變,并預測:“到2026年,40%的新增應用將是智能應用,開發(fā)者將AI技術融入應用中,以增強現有體驗并創(chuàng)造新的使用場景。”1
隨著人工智能和數據科學進入主流應用程序開發(fā)領域,如Podman AI實驗室這樣的工具可以協助開發(fā)人員使用GenAI構建智能應用程序,或利用AI增強的開發(fā)能力來優(yōu)化工作流程。Podman AI實驗室提供了一個包含示例應用的配方目錄,使開發(fā)人員能夠快速掌握一些常見的LLM用例,例如:
● 聊天機器人:模擬人類對話,利用AI理解用戶的詢問并提供適當的回復。這些功能通常用于增強自助式客戶支持或虛擬個人助理應用。
● 文本摘要器:為各種應用和行業(yè)提供多功能性,實現高效的信息管理。開發(fā)人員可以利用此功能來協助內容創(chuàng)建和整理、研究、新聞聚合、社交媒體監(jiān)控和語言學習等任務。
● 代碼生成器:自動完成項目設置和API集成等重復性任務,或生成代碼模板,讓開發(fā)人員能夠專注于更高層次的設計和問題解決。
● 物體檢測:識別和定位數字圖像或視頻幀中的物體,適用于自動駕駛汽車、零售庫存管理、精準農業(yè)和體育廣播等應用。
● 音頻到文本轉錄:將口頭語言自動轉錄為書面文本,有助于音頻內容的記錄、獲取和分析。
這些示例為開發(fā)人員提供了一個起點,他們可以查看源代碼,了解應用程序的構建方式,并學習將自己的代碼與AI模型集成的最佳實踐。
對于開發(fā)人員而言,容器傳統上為他們在桌面上構建和測試應用程序提供了一個靈活、高效且一致的環(huán)境,無需擔心沖突或兼容性問題。如今,他們也希望人工智能模型開發(fā)同樣簡單易用。Podman AI實驗室正好滿足這一需求,為開發(fā)人員提供配置本地推理服務器的能力,使其更容易在本地運行模型、獲取端點,并開始圍繞模型開發(fā)新功能。
此外,Podman AI實驗室還包括一個沙盒環(huán)境,用戶可以在其中與模型互動并觀察其行為。這個環(huán)境適用于測試、實驗和開發(fā)模型原型及應用程序。直觀的用戶界面有助于探索各種模型的功能和準確性,并協助用戶找到適合特定應用場景的最佳模型配置。
隨著AI在企業(yè)中的日益普及,紅帽正引領潮流,正通過其一致、可信且全面的混合云AI平臺產品組合,釋放AI推動創(chuàng)新、提升效率和創(chuàng)造價值的潛力。
Podman AI實驗室是建立在Podman桌面的基礎之上的,后者是紅帽公司創(chuàng)立的一個開源項目,已累計超過100萬次下載。它還與紅帽企業(yè) Linux的鏡像模式緊密集成,這是世界領先的企業(yè)級Linux平臺的一種新型部署方式,通過容器鏡像形式提供操作系統。這種集成使開發(fā)人員能夠更輕松地從在筆記本電腦上制作原型和處理模型,轉變?yōu)槭褂眉t帽O(jiān)penShift將新的AI應用打包成便攜、可部署的容器,并在混合云的任何環(huán)境中(從裸機到云實例)輕松運行。
云是混合的,AI亦如此
過去三十多年,開源技術不僅推動了快速創(chuàng)新,還大幅降低了IT成本并降低了創(chuàng)新門檻。從21世紀初通過RHEL提供開放式企業(yè)Linux平臺,到通過紅帽O(jiān)penShift推動容器和Kubernetes成為開放混合云和云原生計算的基礎,紅帽幾乎一直引領著這一潮流。
紅帽在開放混合云中賦能AI/ML戰(zhàn)略,支持人工智能工作負載在數據所在的地方運行,無論是在數據中心、多個公有云或邊緣。除了支持工作負載外,紅帽的AI愿景還將模型訓練和調整引向同一方向,以更好地應對數據主權、合規(guī)和操作完整性等方面的限制。紅帽的平臺為這些工作負載提供跨環(huán)境的一致性,無論它們在何處運行,這對于順利推進AI創(chuàng)新至關重要。
支持證言
Sarwar Raza,紅帽副總裁兼應用開發(fā)者業(yè)務部總經理
“AI時代已經到來,但對許多應用程序開發(fā)人員而言,構建智能應用程序的學習曲線相當陡峭。Podman AI實驗室提供了一個熟悉且易于使用的工具和沙盒環(huán)境,讓開發(fā)人員安全可靠地將AI模型整合到代碼和工作流程中,而無需昂貴的基礎設施投資或深厚的AI專業(yè)知識?!?/p>
Jim Mercer,IDC軟件開發(fā)、DevOps和DevSecOps項目副總裁
“生成式人工智能(GenAI)的新浪潮正在席卷整個行業(yè),對處于這一新興模式前沿的開發(fā)人員和DevOps專業(yè)人員產生了深遠影響。可以預見,整個開發(fā)和DevOps領域的變革將會加速。未來幾年很可能成為應用程序開發(fā)和部署史上最關鍵的幾年?!?/p>
[1] IDC FutureScape:全球開發(fā)人員和 DevOps 2024 年預測》,DOC # US50136023,2023 年 10 月
評論