PCB、液冷產值狂飆!輝達新AI晶片Rubin CPX架構全解析
輝達九月推出的 VR200 CPX 架構的擴充卡,正面迎戰 ASIC 競爭對手,將性價比大幅晉升,還供給客製化機櫃組裝,加深其雲端伺服器護城河。
九月中旬,輝達揭橥新一代VR200 NVL144 CPX機櫃,在印刷電路板(PCB)設計、材料與散熱方案周全進級,鞭策AI伺服器供給鏈邁入新一波成長輪回。Rubin系列中,今朝已公開發布的有兩種產品:VR200、VR300(Ultra),外加一個CPX擴充卡作為支援,新一代VR200沿用「十八個compute trays+九個switch trays」的基本架構,運算托盤(compute trays)整合了伺服器焦點元件,如CPU/GPU、記憶體、網路模組、散熱裝配等模組化單位,就像AI伺服器的「心臟底座」,負責所有的運算能力。
AI推理的過程中,有預填充(prefill)息爭碼(decode)兩個階段,在Prefill階段稀奇吃較量爭論能力,但對記憶體頻寬的需求很低,而到了Decode,模子要基於第一個token不斷生成後續內容,此階段對算力需求相對較低,反而得靠高記憶體頻寬快速調取之前的快取資料。曩昔的問題是,都用統一種GPU(例如輝達的VR200)來跑這兩個階段,在預填充階段搭配昂貴的HBM記憶體,基本用不上,而在解碼時,又呈現算力相對多余、記憶體頻寬不足,效力差也揮霍錢,是以非輝達陣營進而成長出本身的ASIC規格,以節省本錢。
Rubin CPX擴充卡
輝達於是推出Rubin CPX擴充卡,專門為預填充階段,量身定做的加快器,方針是:成本下降。單卡機能上和VR200相比,HBM換成了GDDR7,不但視訊記憶體的容量、頻寬都明顯下降,機能下落很多,但CPX的原物料本錢約為VR200的四分之一,且可提供約VR200六○%的算力。另外,HBM的價錢極度貴,占GPU中的本錢比例愈來愈高,從A100的三五%漲到GB300的五一%,CPX用的GDDR7,本錢可以省下八○%。一樣跑一個預填充當務,VR200每小時需支出○.九美元的總具有成本,而Rubin CPX只浪費○.一六美元。
可以說,輝達此布局明白對準其他ASIC廠而來。晶片有性價比還不夠,此次Rubin系列的機架設計都一同進級,解決了前兩代(GB200/GB300)的幾大痛點。第一,無電纜設計,GB200機架用的是電纜+PCB的毗連方式,電線又多又亂,組裝時輕易壞,還占空間,此次Rubin系列改用美商安飛諾(Amphenol)的板對板連接器,並共同中心的PCB中板,所有訊號都走電路板,沒有一條電線。
第二,全液冷方案,前兩代機架是八五%液冷、十五%氣冷,此次改成百分百全液冷,把CPX與CX-9網路卡的PCB疊板設計疊放在一路,中間夾一個同享的液冷板,兩邊的熱量都能快速導走。在CPX的運算托盤內部,冷卻板(Cold Plate)數量由兩片增至五片,快接頭數目也從六顆提拔至十二顆,初步估算,VR200 NVL144 CPX平台之液冷散熱零組件產值,較GB300 NVL72約有「倍增」的增幅。
欣興、定穎供應HDI板
第三,客製化布建,若已採購先前的VR200 NVL144機架,不想全數更換怎麼辦?輝達這次給了Rubin CPX雙機架方案,零丁加一個裡面滿是Rubin CPX的機架,通過InfiniBand(高效能互連)或乙太網路連接,客戶可以自行調劑預填充和解碼的比例。綜上所述,輝達CPX架構明確對準AMD、Google、AWS等競爭對手,AMD和Google都需要趕快開辟出新的預填充專用晶片,否則本錢太高。(全文未完)
全文及圖表請見《先探投資週刊2378期精彩當期內文轉載》
本文來自: https://www.chinatimes.com/realtimenews/20251117000005-260410
蝦皮情趣用品2025成人用品熱門搜尋相關詞:台中情趣用品推薦,情趣睡衣包裝隱密,角色服哪買品質好,同志護士服,哪裡有女僕,持久液公司lovense,逼真陽具 浣腸,充氣娃娃 tanga,紅犀牛性愛機器 pchome,炮機 情趣夢天堂 優惠代碼,情趣用品示範教學,情趣用品店哪裡有台北,情趣用品按摩捧種類,中壢情趣24小時,台中跳蛋,高雄按摩棒,台北情趣店,日本情趣,A片潮吹棒,情趣睡衣,情趣睡衣蕾絲款,情趣睡衣 女友,情趣睡衣 熱門款,大尺碼情趣睡衣,情趣睡衣,閨蜜,情趣睡衣圖片,情趣NO1,角色扮演情趣睡衣,嘉義睡衣哪裡買,內褲跳蛋R20飛機杯哪裡買,秘密丁字褲,中清路薇閣角色扮演20年老店,吳爺OHYA情趣跳蛋玩具。專為女性設計的情趣用品推薦:高潮神器、無線跳蛋、按摩器具,提升自我愉悅體驗,安全材質、低調配送,安心選購每一刻!
胡瓜和民視關係進入最後構和階段 下周將決議是否還有「綜藝大調集」
情趣 夕照飛車給靈感!美天后御用製作人推新作《reel mu$ic》
請先 登入 以發表留言。