復(fù)旦開源首個(gè)「中國(guó)版ChatGPT」MOSS!全新插件系統(tǒng),能上網(wǎng),會(huì)雞兔同籠(1)
國(guó)內(nèi)首個(gè)類ChatGPT模型MOSS,開源了!這次,復(fù)旦團(tuán)隊(duì)的模型不僅更加成熟,而且還增加了「搜索引擎、計(jì)算器、解方程、文生圖」等插件功能,既可在線體驗(yàn),也支持本地部署——在FP16精度下單張A100/A800或兩張3090顯卡就能運(yùn)行,而在INT4/8精度下只需一張3090即可。(但還沒放出)目前,項(xiàng)目已在Github上收獲了2.2k星。
MOSS升級(jí)版正式開源,搭載全新插件系統(tǒng)
當(dāng)然,這次除了模型正式開源外,還有一個(gè)新的升級(jí)——「插件系統(tǒng)」。還有一個(gè)比較有意思的功能就是,我們可以通過點(diǎn)擊MOSS回復(fù)消息框右下角的小燈泡,來查看MOSS的「內(nèi)心想法」。根據(jù)介紹,moss-moon系列模型具有160億參數(shù),并且已經(jīng)在1000億中文token上進(jìn)行了訓(xùn)練,總訓(xùn)練token數(shù)量達(dá)到7000億,其中還包含約3000億代碼。同時(shí),在經(jīng)過對(duì)話指令微調(diào)、插件增強(qiáng)學(xué)習(xí)和人類偏好訓(xùn)練之后,MOSS目前已經(jīng)具備了多輪對(duì)話能力及使用多種插件的能力。此外,團(tuán)隊(duì)還給MOSS增加了Inner Thoughts作為輸出,幫助模型決定調(diào)用什么API、傳入什么參數(shù),以及幫助MOSS通過類似思維鏈的方式提升推理能力。
官方演示調(diào)用搜索引擎
解方程
生成圖片
無害性網(wǎng)友實(shí)測(cè)除了這些官方演示外,知名答主「段小草」也在第一時(shí)間進(jìn)行了評(píng)測(cè)。「段小草」表示,插件能力的激發(fā)需要分成兩個(gè)步驟:
- 觸發(fā)正確的插件
- 通過調(diào)用給出更準(zhǔn)確的回答
然而,在實(shí)際的測(cè)試中,有時(shí)會(huì)出現(xiàn)插件不能觸發(fā),或者調(diào)用之后依然出錯(cuò)的情況,比較玄學(xué)。目前可選的插件有下面這些。
Calculator:計(jì)算功能如果MOSS顯示了插件圖表和計(jì)算公式,就說明它調(diào)用了響應(yīng)插件。
Equation solver:求解方程以經(jīng)典的雞兔同籠問題為例。開啟「方程」插件時(shí),有時(shí)成功有時(shí)失敗。在觸發(fā)插件時(shí),MOSS可以作答正確,表現(xiàn)還是很優(yōu)異的。但有時(shí)也會(huì)回答錯(cuò)誤,比如下面這個(gè)例子,MOSS就把列方程和求解都做錯(cuò)了。在未能觸發(fā)插件時(shí),MOSS也把題算錯(cuò)了。
Text-to-image:文生圖到了文生圖部分,還是那道經(jīng)典的考題:畫個(gè)「車水馬龍」。
MOSS畫得很漂亮,但好像不太對(duì)的樣子。
再來個(gè)「胸有成竹的男人」?
感覺MOSS有自己的想法,還不算錯(cuò)。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。