近日，美國計算機(jī)協(xié)會（Association for Computing Machinery，簡稱 ACM）將 2021 年度圖靈獎授予田納西大學(xué)電氣工程和計算機(jī)科學(xué)系教授杰克·唐加拉（Jack J. Dongarra），以表彰其在高性能計算發(fā)展上的重大貢獻(xiàn)，該獎項相當(dāng)于“計算領(lǐng)域的諾貝爾獎”。

在唐加拉過往的生命中，有很大一部分時間是在計算機(jī)科學(xué)和數(shù)學(xué)的世界之間穿梭。谷歌 AI 業(yè)務(wù)負(fù)責(zé)人杰夫·迪恩（Jeff Dean）這樣評價道， “唐加拉的工作從根本上改變并推動了科學(xué)計算?！敝档靡惶岬氖?，在獲得表彰的同時，唐加拉還獲得了 100 萬美元的獎金，谷歌為 ACM 提供了該獎項的財務(wù)支持。

對于此次獲獎，唐加拉表示，"我對此前的圖靈獎獲得者有著極大的尊重，我使用過他們的書以及定理，我只希望自己能成為未來計算機(jī)科學(xué)家的榜樣。"

其實，很多科學(xué)工作者，甚至包括此前的圖靈獎獲得者，都曾在某個時候或者是每天都在使用唐加拉所開發(fā)的程序和庫，如廣泛用于系統(tǒng)性能基準(zhǔn)測試的線性代數(shù)程序 LINPAC、執(zhí)行科學(xué)計算核心的向量和矩陣操作的主力運(yùn)算庫 BLAS 以及用于 GPU 的線性代數(shù)庫 MAGMA。

圖 | 杰克·唐加拉（Jack J. Dongarra）（來源：ACM）

據(jù)了解，唐加拉出生于 1950 年，如今已過古稀之年。在他看來，其一生最重要的貢獻(xiàn)主要有三個方面。

第一是開發(fā)了眾多可移植的、適用于高性能機(jī)器的數(shù)值軟件；第二是在計算機(jī)的并行處理機(jī)制上做了相關(guān)工作，如消息傳遞接口（Message passing interface，簡稱MPI）；第三是開發(fā)測量計算機(jī)性能的評估技術(shù)，如衡量超級計算機(jī)能力的 TOP500 測試。

唐加拉稱，“這些工作都集中在先進(jìn)的計算機(jī)架構(gòu)上以及如何非常有效地利用它們?！倍ㄒ恢骶€是，如何讓科學(xué)家在計算機(jī)允許的范圍內(nèi)做他們想做的實驗。

為此，唐加拉發(fā)明了一些工具，以幫助程序員在各種計算方面擁有更強(qiáng)的掌握能力，其最近專注的是一個叫做 SLATE 的線性代數(shù)軟件包。

據(jù)悉，SLATE 可以在“計算金字塔”（computational pyramid）上運(yùn)行，從筆記本電腦到臺式機(jī)、集群以及超級計算機(jī)。唐加拉介紹，“用戶可以忘記底層的硬件，只需提出線性代數(shù)問題，SLATE 會想辦法把它分散到數(shù)十萬個處理器或 GPU 上?！?br />
現(xiàn)在，超級計算在世界范圍內(nèi)盛行，越來越多的人通過云計算來使用超級計算機(jī)，這很大程度上歸功于唐加拉長年的編程努力。

唐加拉表示，“就計算方式而言，我們正處于一個拐點，傳統(tǒng)方式是在這些占據(jù)兩個網(wǎng)球場大小的機(jī)器上進(jìn)行科學(xué)計算，而現(xiàn)在更多是基于云來調(diào)用機(jī)器"。

他認(rèn)為，從某種意義上說，超級計算行業(yè)在建造超級計算機(jī)的傳統(tǒng)方式上幾乎已經(jīng)走到了盡頭。摩爾定律失效后，組裝一臺獨立的高性能計算機(jī)并不是一個可以繼續(xù)擴(kuò)展的過程，承擔(dān)下一個巨大計算時代的應(yīng)當(dāng)是云規(guī)模系統(tǒng)。

亞馬遜、Meta、谷歌等科技巨頭擁有巨大的設(shè)備和系統(tǒng)資源，而科學(xué)家們由于資金的原因，很難將必要的資源落實到位，而云中的商業(yè)資源可供科學(xué)家們利用，以滿足其特定需求。

值得一提的是，唐加拉還關(guān)注著中國的超級計算發(fā)展，并多次到訪中國參與技術(shù)交流。他曾在北京考察中國首臺千兆次超級計算機(jī)“天河一號”，還在 2013 年出席了在長沙舉行的國際 HPC 會議，與眾多的中國超算科學(xué)家進(jìn)行技術(shù)交流。

除超級計算外，線性代數(shù)也憑著唐加拉對向量和矩陣以及張量的處理來到了計算的核心。唐加拉表示，“我是一個數(shù)學(xué)家，對我來說，一切都是線性代數(shù)，但世界也在看到這一點。事實上，機(jī)器學(xué)習(xí)和人工智能中的大多數(shù)問題，都可以追溯到線性代數(shù)中的‘永恒計算組件’。”

此外，唐加拉還注意到科學(xué)家和軟件編寫者的編程語言需求。當(dāng)被問及更推薦哪種軟件編程范式，他表示，Julia、MatLab 都較為不錯。

他談到，今天需要的軟件編程范式是 “以簡單的方法來表達(dá)所有計算”，也就是線性代數(shù)的計算，如矩陣乘法。

這也正是唐加拉多年來一直在做的事情，即輕松地表達(dá)事物，并獲得底層硬件的性能。具體而言，就是通過更多的工具來抽象化細(xì)節(jié)，讓科學(xué)家更有生產(chǎn)力。

目前，唐加拉的興趣所在是 AI 技術(shù)，他對 AI 為工程和科學(xué)帶來的好處有著堅定的信念，并正在努力研究各類基于線性代數(shù)的機(jī)器學(xué)習(xí)算法。

他表示，“機(jī)器學(xué)習(xí)是一個巨大的工具，我們才剛剛開始了解如何使用機(jī)器學(xué)習(xí)等 AI 技術(shù)來幫助解決科學(xué)問題。它也許不會直接解決我們的問題，但它將成為幫助我們解決問題的好伙伴。”

-End-