3月19日消息，NVIDIA宣布成功研發(fā)AI加速卡——Blackwell GB200，預(yù)計(jì)年內(nèi)開(kāi)始交付。這是NVIDIA在GTC開(kāi)發(fā)者大會(huì)上所公布的最新成果。

GB200創(chuàng)新性的運(yùn)用了NVIDIA獨(dú)創(chuàng)的新一代AI圖形處理器架構(gòu)Blackwell。NVIDIA CEO黃仁勛明確指出：“盡管Hopper已然優(yōu)秀，但我們需要更強(qiáng)的GPU推動(dòng)發(fā)展?！?/p>

得益于NVIDIA每?jī)赡赀M(jìn)行一次GPU架構(gòu)升級(jí)以提高性能的策略，全新的基于Blackwell的加速卡比之前的H100更為強(qiáng)大，尤其適用于AI相關(guān)任務(wù)。

Blackwell GPU卓越表現(xiàn)使得AI性能達(dá)到驚人的20PetaFLOPS。相比之下，基于Hoper架構(gòu)的H100僅為4PetaFLOPS。NVIDIA強(qiáng)調(diào)，這種額外的處理能力將極大地便利人工智能廠商順利培訓(xùn)復(fù)雜且大規(guī)模的模型。

Blackwell GPU大大刷新了人們的認(rèn)知，其龐大身形由臺(tái)積電4納米（4NP）工藝制成，包含兩個(gè)獨(dú)立制造的裸晶（Die），共有2080億個(gè)晶體管。為了方便捆綁芯片，它采用NVLink 5.0技術(shù)。兩枚Blackwell芯片在同一封裝中，相較以往的GPU而言，整體性能顯著提升達(dá)2.5倍，若處理FP4八精度浮點(diǎn)運(yùn)算，則性能甚至可飆升至5倍之多。校園秘

關(guān)于GB200，NVIDIA宣稱，其合成物包括兩個(gè)B200 Blackwell GPU以及一個(gè)基于Arm的Grace CPU。很多人驚訝地發(fā)現(xiàn) NvTech的首批量產(chǎn)計(jì)算機(jī)將其性能獲得了提升超過(guò)30倍，同時(shí)降低成本和能耗。根據(jù)NVIDIA的數(shù)據(jù)分析，他們現(xiàn)有的硬件只用2000個(gè)Blackwell GPU就夠再去完成諸如1.8萬(wàn)億個(gè)參數(shù)模型這樣的運(yùn)算任務(wù)，且只消耗4兆瓦的電力。在參數(shù)為1，750億的GPT-3 LLM基準(zhǔn)測(cè)試中，Nvidia的GB200的性能甚至超越了H100 7倍。規(guī)律紀(jì)律意識(shí)

對(duì)于致力于擁有龐大需求企業(yè)的成品服務(wù)，NVIDA推出了包含36個(gè)CPU及72個(gè)Blackwell GPU的NVL72服務(wù)器，并附贈(zèng)一體式水冷散熱解決方案，產(chǎn)能可實(shí)現(xiàn)高達(dá)720 PetaFLOPS的AI訓(xùn)練性能，或者達(dá)到驚人的1，440 PetaFlops。另外，還有144個(gè)壁搏立帆、576個(gè)GPU以及240TB的內(nèi)存。單據(jù)一份官方報(bào)道顯示，早先以至于要運(yùn)行一帶有1.8萬(wàn)億個(gè)參數(shù)模型的堆棧，原先需要8000個(gè) Hopper GPU，外加15兆瓦的電力。

英偉達(dá)透露，同類機(jī)型已被亞馬遜、谷歌、微軟和甲骨文計(jì)劃納入他們的云服務(wù)產(chǎn)品之中，由于對(duì)具體采購(gòu)量的保密，外界暫無(wú)確切消息。但據(jù)Nvidia表示，已經(jīng)接到了Amazon AWS對(duì)于采用2萬(wàn)片 Blackwell芯片建成的服務(wù)器集群的購(gòu)買(mǎi)計(jì)劃。通過(guò)Node-to-Node NVLink 5.0，每個(gè)機(jī)架將被18塊GB200芯片和9塊交換機(jī)裝滿。而不同于此，英偉達(dá)的 Skeeter InfiniBand可連接多達(dá)144個(gè)節(jié)點(diǎn)，Quantum-X800 InfiniBand則最高可支持64個(gè)節(jié)點(diǎn)。