Broadcom的CHIP部門於週二推出了一個新的網絡處理器,該處理器旨在渦輪增壓人工智能工作負載,要求數百個計算單元之間進行嚴格的協調。
該公告標誌着與AI芯片製作領導人Nvidia的另一個薩爾沃。這款最新的Broadcom設備(稱爲Tomahawk Ultra )用作交通控制器,在單個服務器機架中,在數十個甚至數百個硅芯片之間穿梭了大量數據。
AI培訓和推斷依賴於“規模化”計算,在該計算中,將芯片緊密聚集以以起泡的速度共享數據。到目前爲止,NVIDIA的NVLINK SWITCH統治了該任務,但Broadcom聲稱其新移民可以在單個網絡中鏈接高達四倍的處理器。
Ultra沒有依靠專有的互連,而是利用了渦輪增壓版本的以太網,而是爲低潛伏期和高吞吐量提供了加油。 Broadcom的高級副總理, dentRam Velaga告訴記者,籌碼可以在使用廣泛支持的協議的同時管理比NVIDIA的競爭對手產品更多的單位通信。
“戰斧Ultra是創新的證明,涉及數百名工程師的多年努力,這些工程師重新構想了以太網開關的各個方面。”
Velaga。
Velaga補充說:“這重點介紹了Broadcom投資於推進以太網進行高性能網絡和AI擴展的承諾。”
Broadcom已經一直在爲Google等客戶提供CHIP製作服務,幫助搜索巨頭組裝自己的AI加速器,以替代NVIDIA GPU 。
隨着Tomahahawk Ultra現在運輸,該公司希望通過爲數據中心建築師提供一個開關,以相似或更高的速度將其擴展到較大的羣集,從而進一步侵蝕了Nvidia的主導地位。
處理器將由臺灣半導體制造公司製造,使用其五納米節點,這是世界上許多最快芯片的相同高級過程。 Velaga指出,Broadcom的工程團隊在開發上花費了大約三年的時間,最初針對高性能計算市場,然後再旋轉到蓬勃發展的生成AI領域。
“ AI和HPC的工作負載正融合成緊密耦合的加速器羣集,這些羣集需要超級計算機級的延遲,這對於織物本身的推理,可靠性和網絡內智能至關重要。
“這證明,開放標準的以太網現在可以提供次級微秒的轉換,無損運輸和片上集體的標誌,這標誌着滿足AI量表堆棧的需求的關鍵步驟,預計幾年內將是數十億美元的兩位數。”
Sobhani。
在傳統的規模之路設置中,服務器分佈在機架上,並通過標準網絡鏈接,從而增加了延遲。相比之下,比例尺將計算元素保持在狹窄的物理足跡中,通常是一個架子,因此在微秒中來回反彈。當訓練大量神經網或進行實時推理時,這種速度至關重要。
隨着AI模型越來越大的越來越大,該競賽正在設計可以處理參數的基礎架構,同時保持具有成本效益和發揮效率的參數。通過採用以太網,這是一個充分理解,開放的標準並推動其性能信封,Broadcom希望爲數據中心操作員提供更容易擴展其AI農場的途徑,而不會被鎖定成一個供應商的生態系統。
隨着Tomahawk Ultra現在掌握在客戶手中,有關誰提供世界人工智能發動機的比賽正在進入一個新的,更擁擠的階段,開放性和規模可以使平衡與原始芯片馬力一樣多。這也使Broadcom成爲了成爲AI行業不可忽視的力量的道路。
該公司在TSMC提出的一項交易中,與TSMC,NVIDIA和AMD一起擁有擁有股份並與TSMC,NVIDIA和AMD一起經營Intel的工廠的主要公司之一。
加密大都會學院:想在2025年養活您的錢嗎?在即將到來的WebClass中DeFi進行操作保存您的位置