曾是棄兒的人工智能，如今，已經(jīng)蓬勃發(fā)展了很長一段時(shí)間了?，F(xiàn)在，人們對提供高性能視覺識別、匹配或甚至超越人類技能的產(chǎn)品和技術(shù)產(chǎn)生了濃厚的興趣和投資。同樣，語音和音頻識別正變得越來越普遍，我們甚至開始看到更專業(yè)的應(yīng)用，比如在半導(dǎo)體設(shè)計(jì)中加入優(yōu)化的物理設(shè)計(jì)。我們被人工智能的各種可能性所迷惑了，但往往不太清楚的是投資真正流向了哪里，也不知道什么是雄心，什么是炒作，什么是現(xiàn)實(shí)。

　　現(xiàn)在我們有多種方法可以解決這個(gè)問題，例如按實(shí)際運(yùn)用或執(zhí)行的項(xiàng)目來進(jìn)行劃分。我們擁有獨(dú)特的視角，因?yàn)槲覀兊幕ヂ?lián)技術(shù)被運(yùn)用于許多定制的人工智能設(shè)計(jì)中。正如我們將看到的，這些人工智能可能會(huì)主導(dǎo)整個(gè)世界。將這一觀點(diǎn)與麥肯錫最近的分析相結(jié)合，我們可以得出一些有趣的、在某些情況下甚至令人驚訝的見解。

　　首先，麥肯錫(McKinsey)的預(yù)測顯示出驚人的數(shù)據(jù)：2017年至2025年，人工智能類半導(dǎo)體將成為半導(dǎo)體市場的領(lǐng)頭羊，其年復(fù)合增長率將比其它所有半導(dǎo)體的總和高出5倍。無論你對人工智能未來的發(fā)展有何看法，不參與到這個(gè)市場游戲中實(shí)在是過于遺憾。Tractica的一項(xiàng)調(diào)查將進(jìn)一步解讀了這種增長：將中央處理器(CPU)與圖形處理器、現(xiàn)場可編程門陣列、特定用途集成電路進(jìn)行比較。到2019年，基于中央處理器的營業(yè)額將從30億美元左右起步，到2025年將增長到120億美元左右?；趫D形處理器的系統(tǒng)(GPU)的收入將在2019年接近60億美元，到2025年將增長到約200億美元?，F(xiàn)場可編程門陣列(FPGA)的貢獻(xiàn)非常小，到2025年可能只有10億美元左右。但特定用途集成電路(ASIC)市場份額將從2019年的約20億美元增長到2025年的約300億美元。到2022年左右，基于特定用途集成電路的人工智能將在份額上超過基于圖形處理器的人工智能。

　　就算在我們實(shí)際運(yùn)用過程中遇到困難也不要太驚訝?；谥醒胩幚砥鞯钠脚_將很好地用于低成本、低性能的應(yīng)用中---比如智能微波，因?yàn)橄到y(tǒng)設(shè)計(jì)者不想處理這些非標(biāo)加工。圖形處理器使人工智能革命成為現(xiàn)實(shí)，并將繼續(xù)在相對高性能的數(shù)據(jù)中心中發(fā)揮重要作用。在這樣的領(lǐng)域中，功率和成本都不是問題，在機(jī)器人和增強(qiáng)現(xiàn)實(shí)耳機(jī)等新興應(yīng)用的原型中也是如此。但是，對于那些尋求高性能且低成本的供電系統(tǒng)的批量生產(chǎn)，或者在不考慮成本和差異化性能的大型數(shù)據(jù)中心來說，特定用途的集成電路一直是最佳解決方案。

　　一般認(rèn)為，數(shù)據(jù)中心人工智能主要是訓(xùn)練機(jī)器通過一系列訓(xùn)練來識別不同圖像，而終端人工智能主要是通過推理，用這些經(jīng)過訓(xùn)練的機(jī)器在投入到實(shí)際運(yùn)用中?，F(xiàn)實(shí)情況更為復(fù)雜。如果你將訓(xùn)練和推論與數(shù)據(jù)中心和終端人工智能進(jìn)行對比，數(shù)據(jù)中心的訓(xùn)練無疑是一個(gè)巨大的市場，因?yàn)楦鶕?jù)麥肯錫的數(shù)據(jù)顯示，其市場份額從2017年的10億美元增長到2025年的50億美元，而這一市場主要由幾家非常大的公司所壟斷。針對終端人工智能的訓(xùn)練是一個(gè)非常小的市場，可能在2025年市場份額能達(dá)到10億，主要運(yùn)用在超出通信范圍的汽車語音系統(tǒng)。

　　當(dāng)然，終端人工智能的推理是一個(gè)擁有眾多參與者的巨大市場，從零增長到2025年的50億美元左右，這一數(shù)據(jù)已經(jīng)超出了我們大多數(shù)人的預(yù)期。但真正令人驚訝的是數(shù)據(jù)中心的發(fā)展，2017年已經(jīng)達(dá)到50億美元左右，預(yù)計(jì)到2025年將增長到100億美元左右，而且這個(gè)市場也有非常多的參與者。是什么驅(qū)動(dòng)著他們的發(fā)展?我們更傾向于認(rèn)為是新型運(yùn)用，如公共監(jiān)控和面部識別，但最常見的應(yīng)用發(fā)生在金融業(yè)。事實(shí)上，信用卡公司是最早將機(jī)器學(xué)習(xí)商業(yè)化運(yùn)用的機(jī)構(gòu)之一。你是否曾經(jīng)在剛買了一大筆東西之后收到信用卡公司的垃圾郵件并且公司提供了更高的信用額度?或者在你剛買了一雙昂貴的運(yùn)動(dòng)鞋和價(jià)值5美元的汽油后，他們就把你的卡給注銷了嗎?你得感謝人工智能。數(shù)據(jù)中心中的這類推理很可能是人工智能的主要驅(qū)動(dòng)力。

　　現(xiàn)在讓我們看看芯片架構(gòu)。在終端上，我們發(fā)現(xiàn)每一項(xiàng)運(yùn)用只有僅僅幾個(gè)實(shí)用案例，并且通常具有嚴(yán)格的潛在要求，以及為執(zhí)行這些運(yùn)用而嚴(yán)格優(yōu)化的系統(tǒng)級芯片結(jié)構(gòu)。這需要特殊定制的處理元素(通常是多種類型的)和高度定制的芯片數(shù)據(jù)流。隨著這些芯片中處理元素的數(shù)量和類型不斷增加，對于人工智能核心的對緩存一致性的需求也在增加，以便將它們?nèi)柯?lián)系起來。加速器核心和系統(tǒng)級芯片設(shè)計(jì)的其他部分之間的緊密集成需求也在增加。這類設(shè)計(jì)的硬件架構(gòu)可能會(huì)變得很復(fù)雜，但通過將這些復(fù)雜的人工智能算法中的復(fù)雜性傳遞給硬件系統(tǒng)，可以大大簡化軟件。既然汽車已經(jīng)成為創(chuàng)新發(fā)展的最重要的人工智能前沿設(shè)備，我們看到人工智能需求通常與功能安全結(jié)合在一起也就不足為奇了。事實(shí)上，我們不僅在汽車、卡車和其他車輛上看到了這一點(diǎn)，而且越來越多地在機(jī)器人和無人機(jī)上看到了這一點(diǎn)。

　　數(shù)據(jù)中心中的執(zhí)行需求是非常不同的，訓(xùn)練和推理之間也存在著一些差異。數(shù)據(jù)中心服務(wù)的提供者希望通過神經(jīng)網(wǎng)絡(luò)的不同通道獲得高吞吐計(jì)算，而不希望讓實(shí)際運(yùn)用發(fā)展成某一特定的任務(wù)。他們希望人工智能可以憑借一套通用的硬件系統(tǒng)去解決問題，因此他們越來越傾向于使用同質(zhì)處理元素的空間分布式網(wǎng)格架構(gòu)，這些元素通常是一些拓?fù)浣M織，形狀多如網(wǎng)格、圓環(huán)等。

　　而我們傾向于看到用于訓(xùn)練的同質(zhì)網(wǎng)格體系，來與上文提到的通用體系相配套。在數(shù)據(jù)中心的推斷中，更常見的是帶有巧妙地嵌入緩存內(nèi)存的異構(gòu)網(wǎng)格，這也是我們認(rèn)為更具實(shí)用性的一方面。

　　此外，在架構(gòu)方面，到芯片外/芯片內(nèi)存儲(chǔ)器的帶寬仍然是一個(gè)很重要的限制器。盡管GDDR6得到了很多人的關(guān)注，但是HBM2也因?yàn)檫@個(gè)原因很快被人們廣泛采用。如果GDDR6能滿足你的需要，它可以比HBM2便宜得多。在這些芯片結(jié)構(gòu)中，邏輯設(shè)計(jì)本身可以是強(qiáng)大的，可以達(dá)到或超過完全的芯片的限制。這使得人們對芯片或芯片之間的開放通信接口越來越感興趣，比如CCIX、OPENCAPI和GEN-Z。

　　我的觀點(diǎn)：

　　1.特殊定制的人工智能將主導(dǎo)所有其他平臺，包括終端設(shè)備和數(shù)據(jù)中心。

　　2.毫無疑問，推理將成為人工智能領(lǐng)域最大的焦點(diǎn)，但更令人驚訝的是，基于數(shù)據(jù)中心的推理將產(chǎn)生比終端推理更多的收益。

　　3.在緊密集成的系統(tǒng)級芯片設(shè)計(jì)中，處于終端的架構(gòu)將需要與人工智能保持高速緩存一致性，而云架構(gòu)將更嚴(yán)重地依賴于分布式配置。

　　4.此外，在云計(jì)算中，內(nèi)存帶寬推動(dòng)人們更多地采用HBM2和GDDR6，這也不奇怪。但是多晶粒架構(gòu)也將受到巨大規(guī)模的分布式配置的推動(dòng)。

　　一句話總結(jié)就是：人工智能非常龐大，但并不存在標(biāo)準(zhǔn)的人工智能芯片。最佳芯片架構(gòu)根據(jù)所執(zhí)行的功能類型、執(zhí)行的地點(diǎn)、執(zhí)行的時(shí)間和功率預(yù)算范圍的不同而有所改變。