這是 AI 硬件軍備競賽的最新轉(zhuǎn)折，Numenta 采用了一種新穎的方法來提高 CPU 性能,Numenta 已經(jīng)證明，通過應(yīng)用一種新穎的方法，英特爾至強(qiáng) CPU 在人工智能工作負(fù)載上的性能可以遠(yuǎn)遠(yuǎn)超過最好的 CPU 和最好的 GPU。

據(jù) Serve the Home 稱，這家初創(chuàng)公司利用基于這一理念的一系列技術(shù)，以 Numenta 智能計算平臺 (NuPIC) 為品牌，在人工智能推理方面解鎖了傳統(tǒng) CPU 的新性能水平。

真正令人驚訝的是，它的性能明顯優(yōu)于專門為處理人工智能推理而設(shè)計的 GPU 和 CPU。 例如，Numenta 采用了 Nvidia 報告的 A100 GPU 性能數(shù)據(jù)的工作負(fù)載，并在增強(qiáng)型 48 核第四代 Sapphire Rapids CPU 上運行。 在所有場景中，基于總吞吐量，它都比 Nvidia 的芯片更快。 事實上，它比第三代 Intel Xeon 處理器快 64 倍，比 A100 GPU 快 10 倍。

利用神經(jīng)科學(xué)提升人工智能性能

Numenta 以其受神經(jīng)科學(xué)啟發(fā)的人工智能工作負(fù)載方法而聞名，它嚴(yán)重依賴稀疏計算的理念——這就是大腦在神經(jīng)元之間形成連接的方式。

如今，大多數(shù) CPU 和 GPU 都是為密集計算而設(shè)計的，尤其是人工智能，這比大腦工作的上下文方式更加暴力。 盡管稀疏性是提高性能的必由之路，但 CPU 卻無法以這種方式良好工作。 這就是 Numenta 發(fā)揮作用的地方。

這家初創(chuàng)公司希望通過將其“秘密武器”應(yīng)用于通用 CPU，而不是專門為處理以人工智能為中心的工作負(fù)載而構(gòu)建的芯片，從而釋放人工智能模型中稀疏計算的效率增益。

雖然它可以在 CPU 和 GPU 上運行，但 Numenta 采用了 Intel Xeon CPU，并應(yīng)用了其高級矢量擴(kuò)展 (AVX)-512 和高級矩陣擴(kuò)展 (AMX)，因為英特爾的芯片是當(dāng)時最可用的。

這些是 x86 架構(gòu)的擴(kuò)展——作為額外的指令集，可以讓 CPU 執(zhí)行更苛刻的功能。

Numenta 使用 Docker 容器提供 NuPIC 服務(wù)，并且可以在公司自己的服務(wù)器上運行。 如果它在實踐中發(fā)揮作用，這將是重新利用數(shù)據(jù)中心中已部署的 CPU 來處理 AI 工作負(fù)載的最佳解決方案，特別是考慮到 Nvidia 業(yè)界領(lǐng)先的 A100 和 H100 GPU 的等待時間較長。