谷歌的又一波反擊!開放大語言模型PaLM API
反觀谷歌那邊,在第一波發(fā)布 Bard 失利之后,一直處于沉默狀態(tài)。
但在今日,谷歌組織了第二波反擊:開放自家的大語言模型 API 「PaLM API」,此外今天谷歌還發(fā)布了一款幫助開發(fā)者快速構建 AI 程序的工具 MakerSuite。谷歌表示,此舉是為了幫助開發(fā)者們快速構建生成式 AI 應用。
但略為遺憾的是,谷歌目前是向選定的開發(fā)人員提供這些工具,而非全面開放。
基于 PaLM 模型的 API
毫無疑問,PaLM API 是今天谷歌發(fā)布的公告的核心。
谷歌介紹稱,PaLM API 是 Google 大型語言模型的入口,可用于各種應用程序。它將為開發(fā)者提供面向對輪交互而優(yōu)化的模型,如內容生成與對話。它也能為開發(fā)者提供摘要、分類等多種任務的通用模型。
從名字可以開出,此次開放的大語言模型 API 是基于谷歌去年發(fā)布的 PaLM。這是谷歌基于 Pathways 系統(tǒng)訓練的一個 5400 億參數(shù)的大型語言模型。
為了訓練這個模型,谷歌動用了 6144 塊 TPU,讓 Pathways 在兩個 Cloud TPU v4 Pods 上訓練 PaLM。
強大的系統(tǒng)和算力投入帶來了驚艷的結果。谷歌在數(shù)百個語言理解和生成任務上評估了 PaLM,發(fā)現(xiàn)它在大多數(shù)任務上實現(xiàn)了 SOTA 少樣本學習性能,可以出色地完成笑話解讀、bug 修復、從表情符號中猜電影等語言、代碼任務。
隨著規(guī)模的增加,模型在處理多個任務時的性能逐漸提高,而且還在不斷解鎖新的能力
關于 PaLM,讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。
此外,谷歌公告稱,后續(xù)會開放更多規(guī)模與功能不同的模型。PaLM 是谷歌選擇的第一個版本,所以后續(xù)我們也可以期待下 LaMDA API 等。
MakerSuite 工具
在過去的幾年里,谷歌一直在構建和部署大型語言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構建 APP。谷歌表示,開發(fā)人員必須使用不同的工具來完成任務,例如制作和迭代 prompt、生成合成數(shù)據以及精調自定義模型。
MakerSuite 是一種簡化此工作流程的工具,讓用戶將能夠根據 prompt 進行迭代,使用合成數(shù)據擴充數(shù)據集,并輕松調整自定義模型。當你準備好編程時,MakerSuite 允許將 prompt 導出為你最喜歡的語言和框架(如 Python 和 Node.js)的代碼。
谷歌表示,借助 MakerSuite,你能夠直接在瀏覽器中快速測試和迭代調整后的模型。
最后補充一句我們觀察到的結果:谷歌今日的兩篇博客發(fā)布后,似乎已經引起了一些人的不滿:并非全面開放、也沒有定價。也許,可以說相比之前 ChatGPT API 的開放,谷歌這一波反擊,也略顯失敗。
原文鏈接:https://blog.google/technology/ai/ai-developers-google-cloud-workspace/
*博客內容為網友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。