NVIDIA、Intel およびパートナー企業が AI コンピューティングの効率を大幅に向上

by Shar Narasimhan · January 17, 2023

hdr-intel-partners-ai-computing-efficiency

第 4 世代 Intel Xeon スケーラブルプロセッサ搭載の NVIDIA Hopper アクセレラレ―テッドシステム (NVIDIA DGX H100 および NVIDIA パートナーの 60 以上のシステム) が従来のデータセンターサーバーの 25 倍の効率を提供し、エネルギーコストも大幅に節約

AI は、前例のない速度での COVID-19 のワクチン開発やがんの診断から、自動運転車や気候変動の理解に至るまで、人類の最も変革的なイノベーションの中心にあります。

事実上すべての業界が AI の活用による恩恵を受けますが、ニューラルネットワークの複雑さが増すにつれて、テクノロジはより多くのリソースを消費するようになっています。コンピューティングインフラストラクチャを動かすために、持続不可能な発電需要を課すことを避けるため、基盤となるテクノロジは可能な限り効率的でなければなりません。

NVIDIA GPU と NVIDIA AI プラットフォームを搭載したアクセラレーテッドコンピューティングは、データセンターが次世代のブレイクスルーを持続的に推進できる効率性を提供します。

そして今、第 4 世代 Intel Xeon スケーラブルプロセッサの発売に合わせて、NVIDIA とそのパートナー企業は、エネルギー効率の高い AI 向けに構築された新世代のアクセラレーテッドコンピューティングシステムを構築しました。NVIDIA H100 Tensor コア GPU と組み合わせることで、これらのシステムは前世代よりも劇的に高いパフォーマンス、より大きなスケールおよび高い効率を実現し、より大きな計算能力とワットあたりの問題解決能力を提供します。

新しい Intel CPU は、NVIDIA DGX H100 システムだけでなく、世界中の NVIDIA パートナーの H100 GPU を搭載した 60 以上のサーバーで使用されます。

エンタープライズ AI の速度、効率、省電力を大幅に向上

これから登場する NVIDIA と Intel のテクノロジを搭載したシステムは、企業が従来の CPU のみのデータセンターサーバーよりも平均で 25 倍効率的にワークロードを実行するのに役立ちます。この驚異的なワットあたりの性能は、ジョブを完了するために必要な電力が少なく済むことを意味します。これにより、データセンターで利用可能な電力を可能な限り効率的に使用し、最も重要な作業の加速が可能になります。

前世代のアクセラレーテッドシステムと比較して、この新世代の NVIDIA アクセラレーテッドサーバーは、トレーニングと推論を高速化し、エネルギー効率を 3.5 倍向上させます。これにより、AI データセンターの総所有コストを 3 分の 1 以上削減することができ、実質的なコスト削減につながります。

新しい第 4 世代 Intel Xeon CPU がより多くのデータを移動し、NVIDIA AI を加速

新しい第 4 世代 Intel Xeon CPU の機能には、CPU から NVIDIA GPU およびネットワークへのデータ転送速度を 2 倍にする PCIe Gen 5 のサポートが含まれます。PCIe レーンの増加により、各サーバー内で GPU と高速ネットワークの高密度化が可能になります。

より高速なメモリ帯域幅は、AI などのデータ集約型ワークロードのパフォーマンスも向上させ、接続あたり最大毎秒400 ギガビット (Gbps) のネットワーク速度は、サーバーとストレージ間のより高速なデータ転送をサポートします。

NVIDIA DGX H100 システムおよび H100 PCIe GPU を搭載する NVIDIA パートナーのサーバーには、NVIDIA AI Enterprise のライセンスが付属しています。NVIDIA AI Enterprise は、エンドツーエンドで安全なクラウドネイティブの AI の開発および展開をするためのソフトウェアのスイートです。エンタープライズ AIにおいて優れた効率性を実現する完全なプラットフォームを提供します。

NVIDIA DGX H100 システムが、大規模なAI の効率を大幅にアップ

世界最高の、AIのためのインフラストラクチャの第 4 世代である NVIDIA DGX H100 システムは、アクセラレーテッドデータセンターのオペレーティングシステムである NVIDIA Base Command ソフトウェアを搭載し、完全に最適化されたプラットフォームを提供します。

各 DGX H100 システムは、8 基の NVIDIA H100 GPU、10 の NVIDIA ConnectX-7 ネットワークアダプター、2 基の第 4 世代インテル Xeon スケーラブルプロセッサを備えており、大規模なジェネレーティブ AI モデル、大規模言語モデル、レコメンダーシステムなどの構築に必要な性能を提供します。

NVIDIA ネットワーキングと組み合わせることで、このアーキテクチャは、前世代よりも最大 9 倍の性能を提供し、AI トレーニングおよび HPC ワークロードで高速化されていない X86 デュアルソケットサーバーより 20 倍から 40 倍高いパフォーマンスを提供することにより、大規模で効率的なコンピューティングを強化します。以前、X86 のみのサーバーのクラスターで言語モデルをトレーニングするのに 40 日かかっていた場合、Intel Xeon CPU と ConnectX-7 ネットワーキングを使用する NVIDIA DGX H100 であれば、同じ作業をわずか 1、2 日で完了できます。

NVIDIA DGX H100 システムは、エンタープライズ対応のターンキー NVIDIA DGX SuperPOD のビルディングブロックであり、最大 1 エクサフロップの AI パフォーマンスを提供し、大規模なエンタープライズ AI 展開の効率を飛躍的に高めます。

NVIDIA パートナーがデータセンターの効率を向上

AI データセンターのワークロードの場合、NVIDIA H100 GPU により、企業はアプリケーションをより効率的に構築および展開できます。

世界中の企業に新世代のパフォーマンスとエネルギー効率をもたらす、H100 GPU と第 4 世代 Intel Xeon スケーラブル CPU を搭載した幅広いシステムポートフォリオが、ASUS、Atos、Cisco、Dell Technologies、富士通、GIGABYTE、Hewlett Packard Enterprise、Lenovo、QCT、Supermicro などの NVIDIA のパートナーから登場する予定です。

効率性向上の先駆者として、NVIDIA H100 GPU を搭載した Flatiron Institute の Lenovo ThinkSystem が、最新の Green500 リストのトップにランクしています。そしてリストの上位 30 システムのうち 23 に NVIDIA テクノロジが搭載されています。Flatiron システムは前世代の Intel CPU を使用しているため、現在市場に出ているシステムには、さらに高い効率が期待されます。

さらに、サーバーを NVIDIA ConnectX-7 ネットワーキングと Intel 第 4 世代 Xeon スケーラブルプロセッサで接続すれば、効率が向上し、インフラストラクチャと電力消費が削減されます。

NVIDIA ConnectX-7 アダプターは PCIe Gen 5 に対応し、イーサネットまたは InfiniBand を使用して接続ごとに 400 Gbps をサポートし、サーバー間およびストレージへのネットワークスループットを 2 倍にします。アダプターは、高度なネットワーク、ストレージ、およびセキュリティのオフロードをサポートします。ConnectX-7 は、必要なケーブルとスイッチポートの数を減らし、大規模な GPU アクセラレーテッド HPC および AI クラスターのネットワークに必要な電力を 17% 以上節約し、これらの新しいサーバーのエネルギー効率の向上に貢献します。