什么是類腦計算
突破能耗痛點,看類腦芯片的獨特優(yōu)勢
類腦芯片的應(yīng)用場景
國內(nèi)外產(chǎn)業(yè)布局及未來前景
點擊收聽大咖談芯現(xiàn)場實錄↓↓↓
什么是類腦計算?
幻實(主播):本期非常開心能夠通過云連線的方式和來自北京的聽眾溝通,這位聽眾所在的企業(yè)和類腦芯片有關(guān),他們在類腦計算領(lǐng)域也有一定的話語權(quán),能夠產(chǎn)出資深的觀點。接下來有請北京靈汐科技的副總經(jīng)理華總來給大家打招呼!
華寶洪(嘉賓):大家好,我是華寶洪。靈汐科技是一家國內(nèi)專門從事類腦計算的芯片企業(yè),目前我們已經(jīng)量產(chǎn)了類腦計算芯片KA200,現(xiàn)在正在進(jìn)行產(chǎn)業(yè)化的推進(jìn)和部署。KA200是目前國內(nèi)第一顆異構(gòu)融合的類腦計算芯片,在國際上處于領(lǐng)先地位。非常感謝能有機(jī)會跟大家在云上見面。
幻實(主播):剛剛您提到了類腦這個詞,我已經(jīng)迫不及待想讓您給大家科普一下什么叫做類腦計算?什么又是類腦計算芯片?
華寶洪(嘉賓):其實在學(xué)術(shù)界里,類腦計算和傳統(tǒng)的計算是有區(qū)別的,英文名稱是Brain Inspired Computing,更前沿的叫法是Neuromorphic Computing。它是把生物科學(xué)計算和計算機(jī)科學(xué)計算這兩個學(xué)科融合在一起的新興學(xué)科。從本質(zhì)上來講,類腦計算是一個綜合的計算系統(tǒng)。狹義理解,它是支持腦科學(xué)的一種計算方法或計算系統(tǒng);廣義理解,它包括了類腦芯片、底層編譯器、高層編譯器、類腦學(xué)習(xí)計算框架、類腦應(yīng)用等,是一個從上到下的完整計算體系或者計算系統(tǒng)。
幻實(主播):這個技術(shù)對我們來說算不算很新?它的發(fā)展的時間有多久?
華寶洪(嘉賓):從類腦計算本身的角度來說發(fā)展歷程其實挺長的,因為在計算機(jī)出現(xiàn)之前就有了“類腦計算”這個概念和詞匯,只不過當(dāng)時不是用計算機(jī)的形式,而是其他的形式,包括結(jié)合解剖學(xué)方面的原理來做的理論推導(dǎo)、涉及相應(yīng)的數(shù)學(xué)演算等等。計算機(jī)發(fā)展之后,加速了人們在計算方面向腦科學(xué)的學(xué)習(xí)與融合,例如把解剖學(xué)、生物學(xué)的東西結(jié)合進(jìn)來,形成一種新的計算機(jī)系統(tǒng)。
上個世紀(jì)80年代,加州理工學(xué)院(California Institute of Technology ,Caltech)教授卡弗·米德(Carver Mead)最早提出類腦計算的神經(jīng)形態(tài)芯片這一概念,到目前為止,市面上陸陸續(xù)續(xù)已經(jīng)出現(xiàn)了很多種類的類腦芯片。
最開始出現(xiàn)的是1990年美國斯坦福的Si Neuron。從2005年到2008年,以美國為代表的西方國家陸陸續(xù)續(xù)在這個領(lǐng)域產(chǎn)出成果,一直保持相對領(lǐng)先的水平,尤其是2006年英國的曼徹斯特大學(xué)推出了SpiNNaker芯片,它是基于純ARM架構(gòu)的類腦計算芯片,給后續(xù)的類腦計算做出了非常好的表率。
2011年,德國海德堡大學(xué)推出了一款類腦芯片叫做BrainScaleS。在2013年前后,IBM推出了TrueNorth。這幾款都是類腦計算芯片里比較有代表性的產(chǎn)品。2018年前后,X86頭部企業(yè)Intel推出了他們的第一款類腦計算芯片Loihi,引起了學(xué)術(shù)界的廣泛關(guān)注。
從整體發(fā)展歷程來看,從上世紀(jì)九十年代初一直到現(xiàn)在,類腦芯片產(chǎn)品一直是國外在做,那國內(nèi)的情況是什么樣呢?
2013年開始,清華大學(xué)類腦計算研究中心開始著手此類研究,2015年推出了第一款“天機(jī)”芯片,2017年出了第二代,目前已經(jīng)是第三代。靈汐科技擁有核心技術(shù)與專利,是“天機(jī)”類腦芯片從基礎(chǔ)研究成果轉(zhuǎn)化成應(yīng)用技術(shù)、再到產(chǎn)業(yè)化落地的企業(yè)。對比國內(nèi)外的情況,基本處于同步發(fā)展階段。盡管我國起步較晚,但類腦計算領(lǐng)域整體的技術(shù)水平,尤其是異構(gòu)融合方面實際上已經(jīng)領(lǐng)先國外了。
突破能耗痛點,看類腦芯片的獨特優(yōu)勢
幻實(主播):聽您這樣說,似乎國內(nèi)離最先進(jìn)產(chǎn)品的距離也不是特別遙遠(yuǎn)。那么從技術(shù)實現(xiàn)性上來說,它的難度大不大?當(dāng)年有一件火爆到出圈兒的事件就是Alpha Go和李世石的圍棋爭霸戰(zhàn),人工智能在與人腦的博弈中具備了更優(yōu)秀的表現(xiàn),可是這種成績是建立在1202個CPU、176個GPU、150KW的能耗基礎(chǔ)上才取得的。在低碳節(jié)能的時代,不可能用這樣大的能耗去做這種處理和計算,那么類腦芯片是否也是類似于Alpha Go的方案?它對能源的消耗又是怎樣的?
華寶洪(嘉賓):這是個很好的問題,也是現(xiàn)在類腦計算需要解決和突破的問題。目前我們處在人工智能發(fā)展的新階段,但面臨的問題以及在未來會遇到的挑戰(zhàn)都是很明顯的。
人工智能發(fā)展到今天,大家都在討論一個問題:為什么人工智能可以取得很多成就?歸結(jié)起來無非是三個因素——三駕馬車:算法、大數(shù)據(jù)、算力。隨著算法被設(shè)計的越來越復(fù)雜、算力越做越大,產(chǎn)生的數(shù)據(jù)量也越來越多,只要有足夠多的算力、數(shù)據(jù)和算法,就能用人工智能來解決很多問題。
但代價是什么呢?是巨大的功耗。超算中心的功耗非常大,動輒兆瓦起步。有一個很形象的比喻,“開一個超算中心能‘吃掉’半個核電站的電能”。在當(dāng)前雙碳經(jīng)濟(jì)社會中,要提高能耗比,在單位功耗里就得盡可能地有效輸出計算能力。這給現(xiàn)有的人工智能發(fā)展帶來很大的挑戰(zhàn),現(xiàn)在的大數(shù)據(jù)、各種層出不窮的算法并沒有從根本上解決人工通用智能的問題,它帶來的最大負(fù)面影響就是能耗。所以,國家發(fā)改委、工信部對能耗指標(biāo)都有要求,比如PUE指標(biāo)必須低于1.25以下才能建。人腦的功耗是20瓦,相當(dāng)于一只電燈泡的功耗,而我們卻能用這20瓦去做很多算力不能做的工作。所以未來的人工智能發(fā)展,我認(rèn)為重點不是要去解決大算力和多算法的問題,而是要思考如何向人腦學(xué)習(xí),在提高算力的同時又降低功耗。
人腦可以舉一反三,但計算機(jī)做不到舉一反三,它只能舉一反一。讓計算系統(tǒng)具備像人腦一樣的思考問題和解決問題的能力,是人工通用智能的終極目標(biāo)。人腦是碳基的,電腦芯片是硅基的,我們希望在硅基上實現(xiàn)碳基人腦思考的能力。這也是做類腦芯片的出發(fā)點,希望能夠模擬人腦低功耗的特點,去實現(xiàn)復(fù)雜的計算和處理。比如靈汐科技前不久量產(chǎn)的KA200類腦芯片,單芯片功耗低于15瓦,整個芯片的能效比輸出非常高,能夠達(dá)到2TOPS/W以上。
此外,類腦計算芯片還可以助力構(gòu)建新的計算系統(tǒng),像人腦一樣進(jìn)行神經(jīng)元計算和生物動力學(xué)計算。人腦的神經(jīng)元是多少呢?850億個,類腦計算要在硅基上做碳基神經(jīng)元的模擬。研發(fā)類腦計算芯片是希望去解決人工通用智能面臨的一些困境。第一個是算力的困境,第二個是場景的困境,現(xiàn)在的AI系統(tǒng)無法處理復(fù)雜的動態(tài)和不確定的場景,原因是現(xiàn)有的AI系統(tǒng)使用的是真實數(shù)據(jù)被處理后再被窮舉的辦法,然而真實的世界是不能被窮舉的;第三個要是能耗困境,目前通用計算使用的CPUGPU等,算力與能耗成正比。類腦計算就是要去解決這三種困境。
類腦芯片的應(yīng)用場景
幻實(主播):未來的數(shù)據(jù)時代都會遇到這三種困境,但同時我們也知道芯片的細(xì)分非常強(qiáng),有ASIC芯片,也有專門處理圖形的GPU等等,您談及的類腦芯片,在您看來在什么場景下或領(lǐng)域中會有特別獨到的優(yōu)勢?類腦芯片會“動別人的奶酪”嗎?
華寶洪(嘉賓):類腦計算設(shè)計之初瞄準(zhǔn)的主戰(zhàn)場是什么?是類腦計算和大規(guī)模腦仿真。面向的是模擬生物腦動力計算等場景,類腦芯片通過對人類大腦的微觀單元,如神經(jīng)元、突觸、離子通道等進(jìn)行生物建模,構(gòu)建神經(jīng)網(wǎng)絡(luò)復(fù)雜的數(shù)學(xué)系統(tǒng),實現(xiàn)大規(guī)模腦仿真。
這里有很多問題需要解決,比如生物腦動力學(xué)的計算,一億以上的神經(jīng)元如何大規(guī)模互聯(lián)建模?在毫秒級和亞毫秒級顆粒度下,如何實現(xiàn)快速腦仿真等。
下一步,是實現(xiàn)更實際的應(yīng)用。比如說探究腦疾病的形成過程,獲取生物腦的一些工作原理,比如嘗試研究人的記憶是怎樣產(chǎn)生的?人的情感受到哪些因素的影響……這些以往要靠動物實驗獲得的數(shù)據(jù),我們希望能通過類腦計算芯片和類腦計算仿真平臺就能得到。
類腦芯片在腦仿真這方面有著得天獨厚的優(yōu)勢,能夠更快更準(zhǔn)地實現(xiàn)場景模擬。比如使用超級計算機(jī)或CPUGPU去做生物腦仿真的建模,1秒鐘生物腦活動可能需要200秒到500秒的時間才能做完,而用類腦計算芯片不會超過5秒。類似這種場景仿真速度可以提高一到兩個數(shù)量級,能加快人類對大腦的理解進(jìn)度。我們并不是去解決生物學(xué)或者醫(yī)學(xué)中的學(xué)術(shù)問題,而是給生物學(xué)和醫(yī)學(xué)提供一個加速研究的平臺,借助這個平臺,在腦仿真領(lǐng)域獲取更多的實驗數(shù)據(jù)和觀測數(shù)據(jù)。
幻實(主播):聽起來好科幻,讓我想起了《三體》里邊的情節(jié),有一個面壁人就是研究腦科學(xué),描述了這樣一種方向。您在講述的時候我其實就在回想了,原來現(xiàn)在已經(jīng)有團(tuán)隊真的在做這件事了,讓我覺得有些震驚,原來科幻真的可以走進(jìn)現(xiàn)實。
華寶洪(嘉賓):舉一個有意思的例子,我們在跟復(fù)旦大學(xué)馮老師團(tuán)隊合作做生物腦的數(shù)字孿生,借助大規(guī)模的腦仿真計算,讓人腦在電腦里實現(xiàn)數(shù)字化孿生。孿生出的數(shù)字腦能夠在情感表達(dá)和某些情緒反饋上,和真實的人腦會有80%相同或相近。這意味著什么呢?人的思維和情緒表達(dá)會被數(shù)字腦孿生出來,當(dāng)某一天人腦衰老時,數(shù)字腦依然年輕。這或許是我們做腦仿真或者腦科學(xué)計算領(lǐng)域最夢幻的一個夢想。
在健康領(lǐng)域,未來腦疾病的治療將可能有重大突破。國外已經(jīng)有在研究和部署腦機(jī)接口了,就是把芯片植入到腦里去,獲取腦活動信息、腦電波等信息來觀測大腦的健康信息。
我們現(xiàn)在做的更多的是通過大規(guī)模腦仿真來還原、仿真、模擬計算探究腦疾病。比如帕金森癥的形成過程,嘗試獲取在病變過程中生物神經(jīng)元、動力學(xué)計算等領(lǐng)域有哪些改變?可以通過哪些藥物來進(jìn)行針對性的治療?搞清楚形成機(jī)制、機(jī)理,將來的治療手段才會更加準(zhǔn)確和高效。這是第一個應(yīng)用。
除了獨特的腦仿真、腦科學(xué)領(lǐng)域之外,在傳統(tǒng)AI領(lǐng)域,類腦芯片也表現(xiàn)優(yōu)異,比如在常規(guī)的圖像視頻識別、自然語言理解等領(lǐng)域提供高能效比的解決方案。現(xiàn)在的智慧城市、智慧醫(yī)療包括智能制造等應(yīng)用都可以遷移過來。這是第二個應(yīng)用。
第三個應(yīng)用方向是新興的類腦計算。是將傳統(tǒng)的人工智能和腦科學(xué)結(jié)合起來的計算,即異構(gòu)融合,融合生物神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)。融合之后能處理比如高速動態(tài)場景的小樣本學(xué)習(xí),以及在線學(xué)習(xí)等場景,而這些目前仍是傳統(tǒng)人工智能領(lǐng)域面臨的一個痛點。
國內(nèi)外產(chǎn)業(yè)布局及未來前景
幻實(主播):聽完您說的我感到非常激動,類腦計算不管是從腦的計算和使用上,還是對于腦部疾病患者的福音上,都能提供一種很好的解決方案。那么我也想了解一下,它現(xiàn)在的產(chǎn)業(yè)化程度怎么樣了?國內(nèi)往這個方向發(fā)展的公司進(jìn)展如何,現(xiàn)實情況是什么?
華寶洪(嘉賓):從誕生之初,類腦計算就承載著和傳統(tǒng)計算不一樣的歷史使命。從本質(zhì)看,它是非傳統(tǒng)架構(gòu)的計算;從未來的產(chǎn)業(yè)發(fā)展趨勢看,異構(gòu)融合是走向人工通用智能的一個重要方法和重要手段。清華大學(xué)類腦計算研究中心推出的“天機(jī)”一代,是最早的在一顆類腦計算芯片里把傳統(tǒng)人工智能和腦科學(xué)的脈沖神經(jīng)網(wǎng)絡(luò)融合在一起的芯片,這是世界的首創(chuàng)。“天機(jī)”二代異構(gòu)融合的架構(gòu)在2019年登上了nature的封面,引起了全球的關(guān)注。
英特爾在2018年推出了Loihi,它只能做傳統(tǒng)的生物神經(jīng)網(wǎng)絡(luò)計算,由128個Neuromorphic Core (神經(jīng)形態(tài)的核心)外加3個低功耗的英特爾X86核心組成。 在2021年Intel發(fā)布了Loihi2,參考了天機(jī)二代的異構(gòu)融合架構(gòu),在支持傳統(tǒng)的生物神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,也開始支持人工神經(jīng)網(wǎng)絡(luò)。
被譽為ARM之父的Steve Furber也在歐洲自然科學(xué)基金的資助下開發(fā)了神經(jīng)形態(tài)芯片SpiNNaker,其升級版SpiNNaker2也是借鑒了融合的概念,既支持生物腦動力學(xué)的生物神經(jīng)網(wǎng)絡(luò),也支持傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)。國際大廠Intel和ARM都延續(xù)了天機(jī)芯的異構(gòu)融合概念,可以看出國內(nèi)外一致認(rèn)為異構(gòu)融合是走向人工通用智能的有效手段。
現(xiàn)在大家都在談芯片的封裝、芯片的制程、異構(gòu)計算等老生常談的概念。這些概念從本質(zhì)上講,并不能從根本上解決高能效比、小樣本學(xué)習(xí)等問題。在行業(yè)導(dǎo)向和市場需求的雙重驅(qū)動下,傳統(tǒng)的馮·諾依曼架構(gòu)和非馮·諾依曼架構(gòu)的異構(gòu)融合架構(gòu),會是推動現(xiàn)有人工智能走向新一代的重要引擎。
一方面,傳統(tǒng)的馮·諾依曼架構(gòu)芯片會繼續(xù)往前走,從7nm到5nm,制程越來越高,封裝也會越來越先進(jìn)。另外一方面是非馮·諾依曼架構(gòu)的芯片,通過架構(gòu)的創(chuàng)新來滿足生物神經(jīng)網(wǎng)絡(luò)、傳統(tǒng)人工網(wǎng)絡(luò)和新型混合神經(jīng)網(wǎng)絡(luò)等領(lǐng)域的規(guī)?;褂眯枨螅o用戶提供更具性價比和競爭力的產(chǎn)品。
我國在計算領(lǐng)域里面有兩個顛覆性的技術(shù),一個是量子計算,另一個就是類腦計算。如何讓現(xiàn)有的芯片去滿足用戶已有的投資?
用戶已有的投資是什么?就是在傳統(tǒng)的AI領(lǐng)域所投資的資產(chǎn),包括算法、模型、數(shù)據(jù),希望把更多的資產(chǎn)用起來。類腦芯片在表現(xiàn)出能效比和性價比會更高,同時我們也會在計算這個領(lǐng)域里引入異構(gòu)融合的概念,去解決小樣本學(xué)習(xí)、在線學(xué)習(xí)等傳統(tǒng)AI面臨的挑戰(zhàn)。我們希望能給大家提供軟件技術(shù)平臺、硬件技術(shù)平臺和路線圖,讓更多的合作伙伴在這個領(lǐng)域里去做更好的延伸。
在面向腦科學(xué)和腦計算領(lǐng)域。我們國家啟動了中國腦計劃項目。我們也做了很多工作,包括和科研機(jī)構(gòu)、高校一起探索并推進(jìn)如何構(gòu)建10億、100億和800億規(guī)模的神經(jīng)元集群。
類腦計算在未來會給大家?guī)砗芏嗥诖驼駣^人心的好消息,國內(nèi)外現(xiàn)在都在瞄著這個方向做。
幻實(主播):如果讓您用一句話來做最終的倡導(dǎo),您會倡導(dǎo)什么?
華寶洪(嘉賓):施路平老師有句話,可以作為類腦計算宗旨:在碳基上實現(xiàn)的智能,硅基上一定也可以實現(xiàn)。這就是我們類腦計算所追求的目標(biāo)。
幻實(主播):這是一個堅定的信念,不是單純的模擬芯片能夠概括的復(fù)雜度,我很期待。集成電路發(fā)展的時間雖然不長,但幾十年來造就了我們整個時代太多的神奇和奇跡般的感受,說不定未來人腦的構(gòu)成真的可以用硅基的方式解析出來,讓我們更加理解我們自身,理解人類的文明和人類的智慧。
華寶洪(嘉賓):人腦其實是最有魅力的一個智能體。如何讓現(xiàn)有的計算系統(tǒng)向最完美的智能體去學(xué)習(xí),這是現(xiàn)在類腦計算一直在追求的目標(biāo)。
幻實(主播):好的,今天非常感謝華總跟我們分享了這么多,期待你們在這個領(lǐng)域能有更多的好消息,到時候歡迎再來芯片揭秘做客!
華寶洪(嘉賓):感謝大家,我是北京靈汐科技的華寶洪,我在芯片揭秘等著你。
人腦是自然界中最完美的信息處理系統(tǒng),而類腦計算則借鑒人腦處理信息的方式,以更少的器件、更低的功耗和更高的能效比來顛覆傳統(tǒng)計算范式,引領(lǐng)人工智能的新變革。當(dāng)前,盡管類腦計算行業(yè)還處在突圍階段,但市場前景已經(jīng)愈發(fā)明朗。根據(jù)Yole預(yù)測,2035年類腦計算市場將占據(jù)人工智能市場總收入的15%-20%,市場規(guī)模約200億美元。
短期來看,類腦芯片應(yīng)扎根端側(cè)智能市場,發(fā)揮自身低功耗、高能效的優(yōu)勢,開發(fā)并創(chuàng)造更多的應(yīng)用場景;長期來看,想要迎來商業(yè)價值的釋放,不但要在產(chǎn)業(yè)端進(jìn)一步控制類腦芯片的制造成本,還需要從科研端入手,從系統(tǒng)結(jié)構(gòu)上發(fā)展類腦計算的完備性,向通用計算領(lǐng)域優(yōu)化拓展。