曦智科技攜全新光電計算產品亮相Hot Chips大會
美國西部時間8月29日,在斯坦福大學舉行的全球芯片行業(yè)年度盛會Hot Chips大會上,全球光電混合計算領軍企業(yè)曦智科技進行了全新光電計算產品Hummingbird的首次公開演示。這是繼美國西部時間8月8日發(fā)布Photowave之后,曦智科技一個月之內再次推出新產品。至此,曦智科技從光子矩陣計算(oMAC)、片上光網絡(oNOC)、片間光網絡(oNET)三大核心技術出發(fā),打造的各系列產品均已推出首款硬件,完成了光子計算和光子網絡兩條產品線的最后一塊“拼圖”。
本文引用地址:http://cafeforensic.com/article/202309/450174.htmHummingbird是首個用于特定領域人工智能(AI)工作負載的片上光網絡(oNOC)處理器,采用先進封裝技術,將光芯片和電芯片進行垂直堆疊,集成為一個系統(tǒng)級封裝(System in Package,SiP)。
Hummingbird計算卡
oNOC技術旨在代替電芯片內部或者芯粒之間的電互連網絡,把電信號轉成光信號,通過光芯片中的光波導網絡進行數據通信,提高整體計算效率。通過這種方式可實現算力和內存擴展,提供更低的延時,更大的互連帶寬,以及更多的拓撲結構。
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示:“光子技術是解決計算規(guī)模擴展問題的有效方法。隨著AI熱潮推動了算力需求的指數級增長,傳統(tǒng)的解決方案已經很難跟上,業(yè)界可以通過將光子技術納入下一代產品中來解決擴展問題,Hummingbird驗證了這一點。”
知名半導體行業(yè)評論人、SemiAnalysis首席分析師Dylan Patel則評論說:“曦智科技正在利用其專有的光子技術打破內存壁壘,這有可能改變半導體行業(yè)。”
本次發(fā)布的Hummingbird,是繼2021年年底發(fā)布的PACE(Photonic Arithmetic Computing Engine)之后,曦智科技光子計算產品線的第二款產品,也是該產品線首款應用oNOC技術的硬件。
曦智科技光電混合計算新范式
在Hot Chips大會上,曦智科技工程副總裁Maurice(Mo) Steinman詳細介紹了Hummingbird規(guī)格參數,以及曦智科技光電混合計算新范式在滿足數據中心對更高算力、更低延時、更低功耗的需求上體現出的優(yōu)勢。
Hummingbird通過硅光芯片上的U型光波導傳播信號,可實現電芯片上64個核之間的all-to-all全通道廣播。這種方式讓Hummingbird相比于傳統(tǒng)數字互連解決方案顯著降低了延遲和功耗,充分體現了光子技術在提升計算表現上的優(yōu)越性。
與片上電網絡不同,曦智科技的oNOC技術通過計算節(jié)點間全互連拓撲結構,擴展了計算集群規(guī)模和配置靈活度。
在oNOC架構下,芯粒間距離幾乎不會影響功耗和延遲。因此,該技術非常適合開發(fā)新的、更可靠的拓撲結構,并且不再局限于相鄰兩個芯片之間的傳輸。Hummingbird使得在單個電芯片或芯粒系統(tǒng)中更高效地利用算力成為可能。借助oNOC,將工作負載映射到不同硬件變得更加容易,為計算系統(tǒng)設計選擇合適的拓撲結構也變得更加靈活。
值得一提的是,Hummingbird還內置了曦智科技自主研發(fā)的小型化單/多波長激光光源Moonstone,可實現多至8個通道波長的高功率光輸出,這是曦智科技在推動光電混合計算產品化和商業(yè)化過程中的又一技術突破。
Hummingbird的電芯片和光芯片被共同封裝并集成到一個PCIe板卡上,適用于通用的服務器。結合曦智科技的軟件開發(fā)工具包(SDK),機器學習和人工智能工作負載可以充分利用oNOC的優(yōu)勢實現性能優(yōu)化。此外,oNOC和Hummingbird IP還可以根據客戶應用場景進行定制。
Hummingbird可集成在標準PCIe板卡上,具有良好的通用性
Hummingbird的后續(xù)版本將采用光罩拼接技術(reticle-stitching)以支持芯粒架構,從而實現更好的可擴展性,在提高能效比的基礎上進一步突破算力瓶頸的制約。
隨著Photowave和Hummingbird兩款光電混合產品的發(fā)布,曦智科技產品市場化進程取得了階段性進展。曦智科技接下來將持續(xù)推動產品迭代進程,拓寬產品應用領域,為客戶提供一系列算力躍遷解決方案。
評論