亞馬遜網(wǎng)絡(luò)服務(wù)公司（Amazon Web Services）不久將擁有一臺由英偉達（Nvidia）制造的新型超級計算機，該公司稱這是世界上速度最快的人工智能系統(tǒng)之一。

在使用 FP8 數(shù)據(jù)類型測試時，該系統(tǒng)可提供 65 exaflops 的人工智能性能。Nvidia 負責(zé)超大規(guī)模和 HPC 的副總裁 Ian Buck 在新聞發(fā)布會上說，這也是世界上第一臺基于 ARM 的云計算 AI 超級計算機。

新的DGX Cloud Project Ceiba系統(tǒng)圍繞Nvidia組件構(gòu)建，但經(jīng)過調(diào)整后可連接到AWS的Nitro芯片，后者提供底層網(wǎng)絡(luò)、存儲和安全基礎(chǔ)設(shè)施。

Project Ceiba將于2024年安裝完畢，屆時可供客戶使用。該系統(tǒng)與其他Nvidia DGX Cloud實施系統(tǒng)不同，后者已被克隆到微軟的Azure、甲骨文云和谷歌云上。

65 exaflops的性能來自5個Grace Hopper超級芯片，機架由AWS的彈性結(jié)構(gòu)適配器連接，用于超級計算應(yīng)用程序。

Buck說："這臺新的超級計算機將在 AWS 基礎(chǔ)設(shè)施中運行，并由 Nvidia 自己的研究和工程團隊開發(fā)用于開發(fā)圖形、大型語言模型研究的新人工智能，并用于數(shù)字生物學(xué)、機器人研究和自動駕駛汽車。

AWS 還發(fā)布了搭載英偉達H200、L40S和L4 GPU的新虛擬機。這些產(chǎn)品是在拉斯維加斯舉行的 ReInvent 大會上發(fā)布的。

AWS 還發(fā)布了其最新 CPU Graviton4，它是 Graviton3 的后繼產(chǎn)品，將被用于 EC2。不過，亞馬遜在一篇博客文章中稱，與 Graviton3 芯片相比，該 CPU 的內(nèi)核增加了 50%，速度提高了 30%，內(nèi)存帶寬增加了 75%。

CCS Insight 首席分析師詹姆斯-桑德斯（James Sanders）說，考慮到 Graviton 處理器與 Arm Neoverse 內(nèi)核設(shè)計發(fā)布節(jié)奏之間的關(guān)系，Graviton4 的發(fā)布在意料之中。Graviton4 以 Neoverse V2 為藍本，而 Graviton 3 則以 Neoverse V1 為藍本。

"兩者在微架構(gòu)上的主要變化是升級到了Armv9，從而提高了進程隔離和向量擴展。桑德斯說："前者在云環(huán)境中非常有用，也是對 Spectre 和 Meltdown 等側(cè)信道攻擊的一種反應(yīng)，而后者則對人工智能推理非常有用。

最新的CPU是Graviton 3E，它是AWS用于超級計算的最高性能CPU。桑德斯說，Graviton4全面上市后，將有更多不同價位的實例類型可供選擇。

相比之下，微軟新推出的 Cobalt 100 是基于 Arm 的 Neoverse N2 CSS，也是 Armv9。Neoverse N 系列面向主流數(shù)據(jù)中心，而 V 系列則面向更高性能的工作負載，這將使 Graviton4 更具優(yōu)勢。

亞馬遜也終于發(fā)布了名為 Trainium2 的下一代訓(xùn)練芯片，其訓(xùn)練速度是近三年前發(fā)布的首款 Trainium 芯片的四倍。

"亞馬遜在一篇博文中說："它將能部署在多達 10 萬個芯片的 EC2 UltraClusters 中，使基礎(chǔ)模型和大型語言模型（LLM）的訓(xùn)練只需極少的時間，同時能效提高達 2 倍。

AWS 現(xiàn)在擁有兩款 ARM CPU，包括 Nvidia 的 Grace 和自己的 Graviton4。Nvidia的Grace提供對GPU的訪問，而Graviton4提供對Trainium的訪問。Graviton4 目前還不能與 Nvidia GPU 協(xié)同工作。

由于模型開發(fā)和定制的增加，這方面的需求是存在的，盡管這需要對針對 Nvidia CUDA 環(huán)境的項目進行一些工具調(diào)整。

"桑德斯說："奇怪的是，[AWS 首席執(zhí)行官]亞當(dāng)-塞利普斯基（Adam Selipsky）指出，當(dāng)谷歌正在使用第四代 TPU 時，其他云計算公司才在談?wù)撍鼈兊?AI 芯片。

審核編輯：劉清