除了行業(yè)競爭層面的擔(dān)憂，OpenAI 首席科學(xué)家透露了不開源的另外一個原因：模型越強(qiáng)，安全隱患也越多。

昨天凌晨，OpenAI 出人意料地發(fā)布了 GPT-4。

比如，一種省流讀 GPT-4 論文的結(jié)論是：「我們用的 Python?！?/span>

更有人打趣道：「我讀到了 GPT-4 是基于 Transformer 架構(gòu)的。」

許多 AI 領(lǐng)域的成員批評了這一決定，指出它破壞了 OpenAI 作為研究型組織的創(chuàng)始精神，并使其他人更難復(fù)現(xiàn)其工作。

對 GPT-4 封閉模型的大多數(shù)初始反應(yīng)都是負(fù)面的，但似乎憤怒已經(jīng)不能改變其「閉源」的決定：

其實對于 OpenAI 不開源的批判已持續(xù)了一段時間。連 OpenAI 的創(chuàng)始團(tuán)隊成員馬斯克都公開質(zhì)疑過其「背離初心」：

就這件事，讓馬斯克至今仍感到困惑：「我不懂，當(dāng)初投了近 1 億美元的非營利機(jī)構(gòu)怎么就變成了市值 300 億的商業(yè)公司呢？」

Nomic AI 信息設(shè)計副總裁 Ben Schmidt 說道：「我認(rèn)為可以停止稱其『Open』了 —— 介紹 GPT-4 的 98 頁論文自豪地宣稱他們沒有披露關(guān)于訓(xùn)練集內(nèi)容的任何信息。」

還有一些人認(rèn)為， OpenAI 隱藏 GPT-4 細(xì)節(jié)的另一個原因是法律責(zé)任。AI 語言模型是在巨大的文本數(shù)據(jù)集上訓(xùn)練的，許多模型（包括早期的 GPT 系統(tǒng)）都會從網(wǎng)絡(luò)上抓取信息，其中一個來源可能包括受版權(quán)保護(hù)的素材。目前已有幾家公司正被獨立藝術(shù)家和圖片網(wǎng)站 Getty Images 起訴。
一些人表示，更重要的是，這會使針對 GPT-4 構(gòu)成的威脅制定保障措施變得更困難。Ben Schmidt 也認(rèn)為，由于無法看到 GPT-4 訓(xùn)練的數(shù)據(jù)，很難知道該系統(tǒng)可以在哪里安全使用并提出修復(fù)方案。
「眾所周知，像 GPT-4 這樣的神經(jīng)網(wǎng)絡(luò)是黑盒子。事實上，它們的操作是不可預(yù)測和難以理解的，這是關(guān)于是否應(yīng)該使用它們、在何處使用它們的最重要問題之一。現(xiàn)在 OpenAI 正逐步制定一個標(biāo)準(zhǔn)，進(jìn)一步擴(kuò)展了這個謎團(tuán)。」Ben Schmidt 表示。

OpenAI 首席科學(xué)家：開源 GPT-4 是不明智的
OpenAI 的首席科學(xué)家兼聯(lián)合創(chuàng)始人 Ilya Sutskever 對上述爭議進(jìn)行了回應(yīng)，表示 OpenAI 不分享更多 GPT-4 細(xì)節(jié)信息的原因是「害怕競爭和擔(dān)心安全」：
「從競爭格局上看，外界的競爭很激烈。GPT-4 的開發(fā)并不容易，幾乎集聚了所有的 OpenAI 力量，經(jīng)過很長時間的努力才產(chǎn)出了這個東西，而且有很多公司都想做同樣的事情?！?/span>
「安全方面的原因不像競爭方面那樣突出，但它也會發(fā)生變化。這些模型是非常高效的，而且它們變得越來越高效。某些時候，如果有人愿意，用這些模型造成巨大的傷害將會相當(dāng)容易。隨著這些能力越來越高，不公開它們是有道理的?！?/span>
當(dāng)被問及「為什么 OpenAI 改變了分享研究成果的方式」，Sutskever 回答說：「坦率地說，我們錯了。如果你像我們一樣相信，在某個時候，AI 或 AGI 將變得極其強(qiáng)大、令人難以置信，那么開源就沒有意義。這是一個壞主意，我完全相信在幾年內(nèi)，每個人都會清楚地認(rèn)識到開源 AI 是不明智的?！?/span>
Lightning AI 首席執(zhí)行官、開源工具 PyTorch Lightning 的創(chuàng)建者 William Falcon 對 VentureBeat 表示，自己能從商業(yè)角度理解這個決定：「作為一家公司，你完全有權(quán)這樣做?！?/span>
但他也表示，OpenAI 此舉為更廣泛的社區(qū)樹立了一個「壞的模板」，可能會產(chǎn)生有害影響。
關(guān)于 OpenAI 不共享其訓(xùn)練數(shù)據(jù)的原因，Sutskever 的解釋是：「我對此的看法是，訓(xùn)練數(shù)據(jù)是技術(shù)。我們不公開訓(xùn)練數(shù)據(jù)的原因與我們不公開參數(shù)數(shù)量的原因幾乎相同?！巩?dāng)被問及 OpenAI 是否可以明確聲明其訓(xùn)練數(shù)據(jù)不包含盜版材料時，Sutskever 沒有回答。
Sutskever 同意 OpenAI 批評者的觀點，即開源模型有助于保障措施的開發(fā)?！溉绻懈嗳搜芯窟@些模型，我們就會了解更多，那就更好了，」他說。出于這些原因，OpenAI 向某些學(xué)術(shù)和研究機(jī)構(gòu)提供了訪問其系統(tǒng)的權(quán)限。
接下來，我們期待什么？
由 GPT-4 引發(fā)的熱議預(yù)計還會持續(xù)一陣，以至于人們可能會忽略一些其他動態(tài)。
比如，在昨日鋪天蓋地的討論中，谷歌的發(fā)布就顯得靜悄悄。目前，Google Workspace 中已經(jīng)全面集成了生成式 AI，更新了生成圖片、演示文稿、電子郵件、文檔等功能。可以想象的是，這將是一次生產(chǎn)力的大提升接下來，人們可以期待的還有很多：不久之后，微軟 CEO 薩蒂亞?納德拉將親自登臺演講，介紹微軟和 OpenAI 的更多合作，比如基于 GPT-4 的 Office 套件。

消息來源：https://www.theinformation.com/articles/microsoft-rations-access-to-ai-hardware-for-internal-teams

讓我們拭目以待。
參考鏈接：https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview

*博客內(nèi)容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權(quán)請聯(lián)系工作人員刪除。