谷歌下月上線A3實例:搭載英偉達(dá)H100,可提供26 exaFlops AI性能
此前報道,A3 實例采用了第 4 代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR5-4800 內(nèi)存,以及 8 張英偉達(dá) H100“Hopper”GPU,通過 NVLink 4.0 和 NVSwitch 實現(xiàn)了 3.6 TBps 的對分帶寬。
新的 A3 超級計算機(jī)“專門用于訓(xùn)練和服務(wù)要求最苛刻的人工智能模型,這些模型為當(dāng)今的生成人工智能和大型語言模型創(chuàng)新提供動力”。據(jù)介紹,這款超級計算機(jī)可以提供 26 exaFlops 的人工智能性能。
谷歌云在今天的發(fā)布會上還介紹了全新的 TPU v5e,是迄今為止最具成本效益和可訪問的云 TPU。這些 TPU 或定制 ASIC 旨在加速 AI 和 ML 工作負(fù)載。
SDxCentral 報道稱,TPU v5e 相比較前代,每美元的訓(xùn)練性能提高了一倍,每美元的推理性能提高了 2.5 倍。
免責(zé)聲明:本文為轉(zhuǎn)載,非本網(wǎng)原創(chuàng)內(nèi)容,不代表本網(wǎng)觀點。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關(guān)內(nèi)容。