英偉達(dá)剛剛公布了采用 Ampere 架構(gòu)的 A100 GPU 的首份實(shí)際性能數(shù)據(jù)：可知其在特定的 AI 基準(zhǔn)測(cè)試項(xiàng)目中一共打破了 16 項(xiàng)性能紀(jì)錄，速度是 Volta V100 的 4.2 倍，較主要競(jìng)爭(zhēng)對(duì)手取得了巨大的領(lǐng)先優(yōu)勢(shì)。首先，2018 年面世的 MLPerf 主要側(cè)重于機(jī)器學(xué)習(xí)性能。該基準(zhǔn)測(cè)試套件總共包括了八項(xiàng)測(cè)試，但英偉達(dá) Ampere A100 GPU 的訓(xùn)練速度已經(jīng)全面實(shí)現(xiàn)了超越。
(來(lái)自：Nvidia)
其次，英偉達(dá)分享了 DGX SuperPOD 系統(tǒng)取得的八項(xiàng)新紀(jì)錄。該系統(tǒng)通過(guò) HDR InfiniBand 連接到一起，構(gòu)成了一個(gè)龐大的 DGX A100 高性能計(jì)算系統(tǒng)集群。
DGX SuperPod 由 140 個(gè) DGX A100 系統(tǒng)組成，共計(jì)擁有 1120 個(gè) NVIDIA Ampere A100 GPU、170 個(gè) Mellanox Quantum 200G Infiniband 交換機(jī)、4 PB 存儲(chǔ)空間、以及 15 公里的光纜。
令人贊嘆的 DGX SuperPod 系統(tǒng)中包括大約 770 萬(wàn)個(gè) Ampere CUDA 核心，作為 DGX V 擴(kuò)展計(jì)劃的一部分，其為該系統(tǒng)增加了近乎 700 Petaflops 的算力，目前已部署在加州圣克拉拉市的英偉達(dá)公司總部。
通過(guò)與上一代 Volta V100(以及谷歌第三代 TPU 和華為 Ascend HPC 等新品)進(jìn)行比較，可知 Ampere A100 Tensor Core GPU 加速卡的性能增長(zhǎng)也是相當(dāng)驚人。
此外在 MLPerf 基準(zhǔn)測(cè)試套件的詳細(xì)結(jié)果中，還對(duì)即將推出的 AI 加速方案進(jìn)行了預(yù)覽，比如英特爾的 Cooper Lake-SP 至強(qiáng)處理器、以及谷歌的第四代 TPU 。
MLPerf 表示，其基準(zhǔn)測(cè)試套件可對(duì)機(jī)器學(xué)習(xí)(ML)和人工智能(AI)工作負(fù)載進(jìn)行評(píng)估，結(jié)果發(fā)現(xiàn) Ampere A100 性能是 Volta V100 的 2.5 倍。即便是提升最小的項(xiàng)目，其領(lǐng)先幅度也有近 50% 。
相比之下，華為 Ascend 芯片只能及時(shí)完成一項(xiàng)測(cè)試、且性能遠(yuǎn)不及 Volta V100 。谷歌第三代 TPU 也只能及時(shí)完成兩項(xiàng)測(cè)試，第一項(xiàng)較 Volta V100 領(lǐng)先 20%，第二項(xiàng)卻又落后 10% 。
至于八槽的 Cooper Lake-SP 平臺(tái)，其能夠在 1104.53 分鐘內(nèi)完成圖像分類測(cè)試項(xiàng)目，但是英偉達(dá)的雙 Ampere A100 系統(tǒng)只需 33.37 分鐘。至于明年的谷歌第四代 TPU，目前尚不知曉其具有多大的優(yōu)勢(shì)。
最后，英偉達(dá)展示了其 GPU 加速卡在 AI Full-Stack Innovations 項(xiàng)目中的表現(xiàn)。上一代 Volta V100 平臺(tái)的 MLPerf 0.5 基準(zhǔn)測(cè)試項(xiàng)目對(duì)比，Ampere A100 平臺(tái)上的的 MLPerf 0.7 基準(zhǔn)測(cè)試有 4.2 倍的性能提升。
