谷歌正迅速成為 BFF Nvidia 的強大對手——為其超級計算機提供動力的 TPU v5p AI 芯片速度更快，內(nèi)存和帶寬比以往任何時候都多，甚至擊敗了強大的 H100

TPU v5p——谷歌最強大的定制設(shè)計人工智能加速器——已被部署為該公司的“人工智能超級計算機”提供動力。 這是一種專門為運行人工智能應(yīng)用程序而構(gòu)建的超級計算架構(gòu)，而不是通常運行科學(xué)工作負(fù)載的超級計算機，因為 TPU 不適合于此。

最新版本的 TPU 每個 Pod 有 8,960 個芯片（構(gòu)成系統(tǒng)），而 v4 中有 4,096 個芯片，并且就每個 Pod 的 FLOP 總可用性而言，其可擴展性是其四倍。 這些新 Pod 提供 4,800Gbps 的吞吐量。 新 Pod 還配備 95GB 高帶寬內(nèi)存 (HBM)，而 TPU v4 中則配備 32GB HBM RAM。?

與Nvidia 提供 GPU 供其他公司購買不同，谷歌的定制 TPU 仍保留在內(nèi)部，供其自己的產(chǎn)品和服務(wù)使用。 谷歌的 TPU 長期以來一直用于為其 Gmail、YouTube 和 Android 等服務(wù)提供支持，最新版本也用于訓(xùn)練 Gemini。

它的功能甚至足以與 Nvidia 廣受歡迎的 H100 GPU 相媲美，后者是處理 AI 工作負(fù)載的最佳顯卡之一。 根據(jù)該公司自己的數(shù)據(jù)，該組件在訓(xùn)練工作負(fù)載方面比 Nvidia 的 A100 GPU 快四倍。

與此同時，根據(jù) 4 月份發(fā)布的研究顯示，谷歌 TPU v4 的速度預(yù)計比 A100 快 1.2 至 1.7 倍。 因此，令人難以置信的粗略計算表明，TPU v5p 的速度大約是 A100 的 3.4 到 4.8 倍，這使其與 H100 相當(dāng)！

審核編輯：劉清