成本雖然高昂，但巨頭們更不愿錯(cuò)過(guò)這次機(jī)會(huì)。

近幾個(gè)月，ChatGPT 爆火出圈，風(fēng)頭無(wú)兩。人們大多把關(guān)注重點(diǎn)放在了 ChatGPT 強(qiáng)大的生成功能和應(yīng)用場(chǎng)景上，卻很少關(guān)心模型的應(yīng)用成本。
雖然 ChatGPT API 開(kāi)放之后，使用成本降低了九成，但對(duì)于 OpenAI 和集成 ChatGPT 的科技公司來(lái)說(shuō)，情況卻大不相同。
眾所周知，在谷歌搜索的時(shí)代，搜索引擎的工作原理是建立巨大的網(wǎng)絡(luò)索引，在用戶(hù)進(jìn)行搜索時(shí)，這些索引條目會(huì)被掃描、排名和分類(lèi)，隨后結(jié)果顯示出最相關(guān)的條目。谷歌的搜索結(jié)果頁(yè)面實(shí)際上會(huì)告訴用戶(hù)搜索所需要的時(shí)間（通常不到一秒）。
而 ChatGPT 式的搜索引擎會(huì)在每次搜索時(shí)啟動(dòng)一個(gè)模仿人腦的巨大神經(jīng)網(wǎng)絡(luò)，生成一堆文本，可能還會(huì)查詢(xún)大型搜索索引以獲取事實(shí)信息。這意味著用戶(hù)與其交互的時(shí)間可能遠(yuǎn)遠(yuǎn)超過(guò)幾分之一秒，并且這些額外的處理需要花費(fèi)更多的成本。
據(jù)路透社報(bào)道，Alphabet（谷歌的母公司）的董事長(zhǎng) John Hennessy 及幾位分析師交談之后寫(xiě)道：「與 AI 大型語(yǔ)言模型交流詢(xún)問(wèn)的成本可能是標(biāo)準(zhǔn)關(guān)鍵字搜索的 10 倍以上」。對(duì)于致力于推行 ChatGPT 式搜索引擎的谷歌、微軟來(lái)說(shuō)，這可能意味著「數(shù)十億美元的額外成本」。

Alphabet 董事長(zhǎng) John Hennessy。
雖然 ChatGPT 這個(gè)研發(fā)熱點(diǎn)肯定是要跟的，但付出的成本是各家公司能夠承擔(dān)的嗎？
微軟：上萬(wàn)塊 A100，為 OpenAI 造超算
微軟的答案是肯定的，而且它還要進(jìn)一步增加相關(guān)的研發(fā)投入。
彭博社報(bào)道，微軟花費(fèi)了數(shù)億美元為 OpenAI 建造了一臺(tái)巨大的超級(jí)計(jì)算機(jī)，使用了「成千上萬(wàn)塊 GPU」以推動(dòng) OpenAI 的 ChatGPT 聊天機(jī)器人。
據(jù)彭博社獲得的回復(fù)，微軟人工智能和云計(jì)算副總裁 Scott Guthrie 說(shuō)，公司在該項(xiàng)目上花費(fèi)了數(shù)億美元的資金。雖然這對(duì)微軟來(lái)說(shuō)可能不值一提，畢竟它最近延長(zhǎng)了對(duì) OpenAI 的多年、數(shù)十億美元的投資，但這無(wú)疑表明，微軟愿意在人工智能領(lǐng)域投入更多資金。
在本周一的博客中，微軟介紹了它是如何創(chuàng)建 OpenAI 使用的強(qiáng)大的 Azure 人工智能基礎(chǔ)設(shè)施，以及其系統(tǒng)如何變得更加強(qiáng)大。

比如微軟推出了新的虛擬機(jī) —— 使用英偉達(dá) H100 和 A100 Tensor Core GPU 以及 Quantum-2 InfiniBand 網(wǎng)絡(luò)，這是兩家公司去年就預(yù)告過(guò)的項(xiàng)目。這將允許 OpenAI 和其他依賴(lài) Azure 的公司訓(xùn)練更大、更復(fù)雜的 AI 模型。
「大約五年前，OpenAI 向微軟提出了一個(gè)大膽的想法，即它可以構(gòu)建將永遠(yuǎn)改變?nèi)藗兣c計(jì)算機(jī)交互方式的人工智能系統(tǒng)?！笿ohn Roach 寫(xiě)道。
當(dāng)時(shí)，沒(méi)有人知道這將意味著什么?，F(xiàn)在，我們理解了這種設(shè)想 ——ChatGPT，并體驗(yàn)到了它的魔力：AI 系統(tǒng)可以創(chuàng)建人們用簡(jiǎn)單語(yǔ)言描述的任何圖片，聊天機(jī)器人可以根據(jù)少量單詞編寫(xiě)說(shuō)唱歌詞、起草電子郵件和規(guī)劃整個(gè)菜單。
像這樣的技術(shù)，在當(dāng)時(shí)看來(lái)未必不可能。只是為了構(gòu)建它，OpenAI 需要真正大規(guī)模的計(jì)算能力。
2019 年，微軟公司宣布向 OpenAI 投資 10 億美元，同意為這家 AI 研究初創(chuàng)公司建造一臺(tái)大規(guī)模的前沿超級(jí)計(jì)算機(jī)。當(dāng)時(shí)唯一的問(wèn)題是：微軟沒(méi)有 OpenAI 所需要的東西，也不完全確定能在自己的 Azure 云服務(wù)中建造這么大的東西而不崩潰。現(xiàn)在，這個(gè)承諾終于兌現(xiàn)了。
微軟表示，為了建立給 OpenAI 項(xiàng)目提供動(dòng)力的超級(jí)計(jì)算機(jī)，它在 Azure 云計(jì)算平臺(tái)上「將成千上萬(wàn)的英偉達(dá) GPU 連接在一起」。反過(guò)來(lái)，這使得 OpenAI 能夠訓(xùn)練出越來(lái)越強(qiáng)大的模型，并「釋放出 AI 能力」，比如 ChatGPT 和必應(yīng)工具。

這些突破的關(guān)鍵是學(xué)習(xí)如何構(gòu)建、操作和維護(hù)數(shù)萬(wàn)個(gè)在高吞吐量、低延遲 InfiniBand 網(wǎng)絡(luò)上相互連接的共置 GPU。這個(gè)規(guī)模甚至比 GPU 和網(wǎng)絡(luò)設(shè)備供應(yīng)商測(cè)試過(guò)的還要大。這是一片未知的領(lǐng)域，沒(méi)有人確切知道硬件是否可以在不損壞的情況下被推到那么遠(yuǎn)。為了訓(xùn)練一個(gè)大型語(yǔ)言模型，計(jì)算工作量被分配到一個(gè)集群中的數(shù)千個(gè) GPU 上。在計(jì)算的某些階段（稱(chēng)為 allreduce），GPU 會(huì)交換有關(guān)它們已完成工作的信息。InfiniBand 網(wǎng)絡(luò)加速了這一階段，該階段必須在 GPU 開(kāi)始下一個(gè)計(jì)算塊之前完成。
「我們看到的是，我們將需要建立專(zhuān)注于實(shí)現(xiàn)大型訓(xùn)練工作負(fù)載的特殊用途集群，而 OpenAI 是這一點(diǎn)的早期證明之一，」微軟 Azure AI 企業(yè)副總裁 Eric Boyd 在一份聲明中說(shuō)?！肝覀兣c他們緊密合作，了解他們?cè)诮⒂?xùn)練環(huán)境時(shí)尋找的、需要的關(guān)鍵是什么。」
谷歌：加緊內(nèi)測(cè) Big Bard
相比于微軟，谷歌的搜索成本問(wèn)題無(wú)疑更大。微軟之所以如此渴望撼動(dòng)谷歌搜索引擎，部分原因就是在大多數(shù)市場(chǎng)份額估計(jì)中，必應(yīng)只占全球搜索市場(chǎng)的 3%，而谷歌約占 93%。搜索是谷歌的主要業(yè)務(wù)，而微軟并不需要擔(dān)心這一點(diǎn)。
根據(jù) Morgan Stanley 的估算 —— 假設(shè)「類(lèi) ChatGPT 的 AI 能夠用 50 個(gè)詞（word）的答案處理一半的查詢(xún)」，谷歌每年的成本將增加 60 億美元。

有趣的是，谷歌從一開(kāi)始就對(duì)模型規(guī)模持謹(jǐn)慎態(tài)度。谷歌表示 Bard 聊天機(jī)器人最初發(fā)布的是 LaMDA 輕量級(jí)模型版本，原因是「這個(gè)更小的模型需要更少的計(jì)算能力，才能夠擴(kuò)展到更多的用戶(hù)，得到更多的反饋?！挂肋@不是谷歌的常見(jiàn)操作，谷歌經(jīng)常在模型規(guī)模方面讓其他公司相形見(jiàn)絀，在計(jì)算資源方面也是極具優(yōu)勢(shì)?！敢?guī)?！怪皇枪雀杌c(diǎn)錢(qián)就能解決的問(wèn)題，除非成本增加的不是一點(diǎn)半點(diǎn)。
根據(jù) Insider 的最新消息，谷歌正在測(cè)試一個(gè)名為 Big Bard 的模型，它是 Bard 的高級(jí)版本，使用了與 Bard 相同的語(yǔ)言模型 LaMDA。
根據(jù)內(nèi)測(cè)示例顯示，對(duì)于相同的問(wèn)題，Big Bard 給出了更豐富、更人性化的回答，它通常也更健談、更隨意。不過(guò)不是所有員工都可以?xún)?nèi)測(cè) Big Bard ，它是有限制的，僅供部分員工使用，而 Bard 則對(duì)所有谷歌員工開(kāi)放。
除此以外，Big Bard 使用更大規(guī)模的 LaMDA，AI 技術(shù)為其聊天機(jī)器人提供支持。谷歌表示 Big Bard 是其在布局對(duì)話(huà)模型計(jì)劃中的一部分，該計(jì)劃旨在創(chuàng)建一個(gè)通用聊天機(jī)器人，可以回答用戶(hù)在其產(chǎn)品和服務(wù)中提出的任何問(wèn)題或請(qǐng)求。
出于成本考慮，谷歌可能會(huì)推出 Bard 的限量版。然而，這場(chǎng)人工智能競(jìng)賽并沒(méi)有放緩的跡象。上周有消息傳出，多模態(tài)的 GPT-4 將于本周發(fā)布?？磥?lái)微軟和谷歌的對(duì)打一時(shí)半會(huì)兒還停不下來(lái)。
商業(yè)模式如何跑通？
類(lèi) ChatGPT 產(chǎn)品能為科技公司帶來(lái)多大的收益，目前很難衡量。有一個(gè)已知的例子，谷歌和亞馬遜的語(yǔ)音助手多年來(lái)一直保持「以后再想辦法」的盈利思路，目前都未能產(chǎn)生利潤(rùn)，而且它們是比 ChatGPT 更受限制的聊天機(jī)器人。OpenAI 在開(kāi)放 ChatGPT API 之后，以 token 為單位收取費(fèi)用，但這對(duì)搜索引擎來(lái)說(shuō)并不適用。
微軟方面已經(jīng)準(zhǔn)備「在必應(yīng)聊天機(jī)器人生成的回復(fù)中插入廣告」，補(bǔ)償其高昂的服務(wù)器運(yùn)行成本。
在開(kāi)放 API 之后，越來(lái)越多的企業(yè)用戶(hù)將與 OpenAI 合作，將其 ChatGPT 服務(wù)集成到自己的產(chǎn)品中。大多數(shù)公司使用 ChatGPT 等大型語(yǔ)言模型來(lái)幫助客戶(hù)制作企業(yè)博客、營(yíng)銷(xiāo)電子郵件等等，而工作量比以前少得多。然而，這些公司的產(chǎn)品幾乎都是給大型語(yǔ)言模型套了一個(gè)簡(jiǎn)單的「外殼」，因此很難實(shí)現(xiàn)差異化競(jìng)爭(zhēng)優(yōu)勢(shì)。
實(shí)際上，OpenAI 最近還推出了 4 個(gè) GPT-3 模型 ——Davinci、Curie、Babbage 和 Ada。其中 Davinci 是功能最強(qiáng)大的模型，Ada 則是速度最快的。Davinci 被一些公司認(rèn)為是開(kāi)發(fā)產(chǎn)品的更好選擇，它的輸出往往比 ChatGPT 的更簡(jiǎn)潔、更直接，并且在某些類(lèi)別的 prompt 下也表現(xiàn)更好。而 ChatGPT 在一些關(guān)鍵領(lǐng)域優(yōu)于 Davinci，包括數(shù)學(xué)、情緒分析等等。

值得注意的是，OpenAI 為 Davinci API 設(shè)置的定價(jià)是 ChatGPT 的十倍。因此近幾周內(nèi)，大多數(shù) Davinci 用戶(hù)可能會(huì)涌向 ChatGPT。對(duì)于 OpenAI 和其競(jìng)爭(zhēng)對(duì)手（包括 Cohere、AI21、Anthropic、Hugging Face）來(lái)說(shuō)，Davinci 的定價(jià)似乎更加合理。至于 ChatGPT，它的超低定價(jià)會(huì)讓行業(yè)內(nèi)的同類(lèi)產(chǎn)品價(jià)格大幅下跌，包括 OpenAI 自己的產(chǎn)品。
將 ChatGPT API 的價(jià)格設(shè)置得如此低的水平（只有原來(lái)的十分之一）之后，很難說(shuō) OpenAI 會(huì)從 ChatGPT 或其他任何模型中獲利還是虧損，因?yàn)檫@些超大規(guī)模的模型查詢(xún)成本非常高。有人猜測(cè)：OpenAI 可能已經(jīng)通過(guò)剔除自 11 月首次亮相以來(lái)全世界提出的無(wú)數(shù) ChatGPT 查詢(xún)中很少激活的參數(shù)，修剪了支持 ChatGPT 的模型以降低模型成本。但這只是一個(gè)猜測(cè)。
接下來(lái)的一段時(shí)間，OpenAI 可能會(huì)因?yàn)?ChatGPT 被大量使用而虧損。這聽(tīng)起來(lái)有點(diǎn)反直覺(jué)，但大型語(yǔ)言模型的訓(xùn)練和運(yùn)行成本確實(shí)非常高。但對(duì)于獲得微軟 100 億美元和 GPU 全力支持的 OpenAI 來(lái)說(shuō)，「薄利多銷(xiāo)」也能讓它比其他競(jìng)爭(zhēng)對(duì)手走得更遠(yuǎn)。
參考鏈接：https://news.microsoft.com/source/features/ai/how-microsofts-bet-on-azure-unlocked-an-ai-revolution/https://www.bloomberg.com/news/articles/2023-03-13/microsoft-built-an-expensive-supercomputer-to-power-openai-s-chatgpt?srnd=technology-vp#xj4y7vzkghttps://arstechnica.com/gadgets/2023/02/chatgpt-style-search-represents-a-10x-cost-increase-for-google-microsoft/https://arstechnica.com/gadgets/2023/03/has-the-generative-ai-pricing-collapse-already-started/https://www.businessinsider.com/google-employees-test-smarter-chatbot-big-bard-2023-3