NVIDIA、クラウドからエッジまでArm を加速化

投稿者: Greg Estes

NVIDIA AI、HPC、グラフィックス SDKの組み込みをサポートし、HPC、クラウド、エッジ、PC プラットフォームからなる Arm エコシステムに GPU と DPU のアクセラレーションをもたらします。

Arm は、携帯電話や自動運転車からエッジ システム、さらには世界最速のスーパーコンピューターである日本の富岳まで、何十億ものデバイスの要となるアーキテクチャーです。

この幅広いシステムは、約 1,300 万人の開発者に支えられています。NVIDIA は、この活気に満ちたコミュニティに、独自のツールの拡張セットを提供していきます。

以下はその一例です。

  • NVIDIA AI – AI のトレーニングと推論を加速するための業界標準
  • NVIDIA RAPIDS – GPU でデータ サイエンスとデータ分析を実行するソフトウェア ライブラリー群
  • NVIDIA HPC SDK – ハイ パフォーマンス コンピューティング用のコンパイラー、ライブラリー、およびソフトウェア ツール
  • NVIDIA RTX – レイトレーシングと AI 機能を提供するグラフィックス ドライバ

エッジ コンピューティングや自律型マシン向けの Jetson の SoC で、また最近では BlueField DPU などのネットワーク製品で、NVIDIA は長年にわたって Arm コアを使用してきました。

BlueField のデータ プロセッシング ユニットは、パートナーや独立系ソフトウェア ベンダーからのサポートを受け、クラウド、組み込みアプリケーション、エンタープライズ アプリケーションのネットワークおよびストレージ ジョブを高速化して保護します。

これらのリソースを、エネルギー効率の高いコンピューティングのトップ ブランドである Arm に提供することで、お客様の選択肢が増え、Arm や NVIDIA パートナーの機会が 4 つの分野へと拡大します。

Arm に対する NVIDIA のサポートは、スーパーコンピューターからパーソナルな組み込みシステムにまで及びます。

ハイ パフォーマンス コンピューティングの新しい展望

Arm では、世界最大かつ最も強力なシステムのニーズを満たすべく、Scalable Vector Extensions (SVE) を使用して同社のプロセッサ テクノロジを拡張しています。NVIDIA のエンジニアは、富岳でも利用されているプロセッサである富士通の A64FX において、SVE のサポートにすでに取り組んでいます。

SVE は、データ センターのコンピューティングおよびネットワークに対応するために Arm Neoverse プラットフォームに追加された最新の拡張です。これは富岳の科学を進歩させるシミュレーションに威力を発揮し、世界で最も強力なコンピューター TOP500 リストで第 1 位にランクされています。

今回の NVIDIA の取り組みにより、Arm のパートナーやお客様は Neoverse CPU と NVIDIA GPU の組み合わせを使用したシステム向けに最適化したソフトウェアを構築できるようになります。これは、2019 年 6 月に発表された HPC イニシアチブの直近のステップであり、Arm のアクセラレーテッド コンピューティングと AI に使用する NVIDIA の CUDA ソフトウェアをサポートします。

NVIDIA HPC SDK に加えて、HPC のネットワークのバックボーンである NVIDIA Mellanox InfiniBand のソフトウェアも完全にサポートされ、現在 Arm サーバーに導入されています。また、エンジニアは、マルチノード システムのストレージとネットワーク パフォーマンスを最大化するソフトウェアである NVIDIA Magnum IO においてサポートを拡張し、Arm もサポート対象となりました。

クラウド内にあるゲームが大きなチャンスを生み出す

クラウド コンピューティングにおいて、NVIDIA はさまざまな面で Arm サーバーの SoC や OEM パートナーと関わっています。

たとえば、NVIDIA は Ampere Computing と提携して、同社の Mt. Jade サーバー プラットフォームをクラウド ゲームに拡張しました。Ampere Altra ベースのシステムには、80 コア Arm ベースの SoC が 2 個、NVIDIA T4 GPUが 4 個、NVIDIA Mellanox BlueField-2 DPU が 1 個搭載されています。これらが合わさることで、128 人のゲーム ユーザーに同時にサービスを提供し、中国で増加している 5G スマートフォンのユーザーに人気のある Android-in-Cloud サービスのセッションをストリーミングしています。

NVIDIA の支援を得て、Ampere Computing の Mt. Jade プラットフォームは、クラウド ゲームの新興市場を開拓しています。

さらに、NVIDIA のエンジニアはコードを Arm に移し、クラウド ゲームのエンコードやレンダリング方法、および Arm ベースのサーバーとユーザーとの間のストリーミング方法を最適化する新しいツールを開発中です。これらのツールは、GIGABYTE、Inspur、Wiwynnなどの Arm サーバー OEM で広く利用できます。

NVIDIA は、独自のサービスである GeForce NOW の運用経験から、クラウド ゲームの可能性を肌で感じています。

クラウド サービス プロバイダーはゲーム以外にも、GPU によって高速化された機械学習、ストレージ、およびその他のアプリケーションに Arm ベースのサーバーを採用しています。そのため NVIDIA では、Kubernetes を使用して Arm で Docker コンテナを実行する NVIDIA Container Toolkit など、Arm ベースのサーバー向けにさまざまな GPU 管理や監視ツールを提供しています。

エンタープライズ AI をすべての企業にもたらす

エンタープライズ ネットワークのエッジは、コンピューティングにおいて次に目指すべき重要な分野です。NVIDIA EGX エッジ AI プラットフォーム は、Arm を含む主要なプロセッサ アーキテクチャーをすべてサポートしています。

NVIDIAは、エッジにおいてエネルギー効率の高いコンピューティングが必要であることを認識し、バーティカル市場でArmをアクセラレーテッド コンピューティングと AI 向けのプラットフォームの中心に据えました。これらのプラットフォームは通常、Jetson などの組み込みモジュール内で GPU を Arm ベースのマルチコア CPU とともに使用します。

NVIDIA では、こうしたモジュールのカスタマイズ バージョンを、ヘルスケア (Clara)、ロボティクス (Isaac)、自律走行車両 (DRIVE) といった、分野ごとの開発者キットと一緒に組み合わせています。こうして、Arm ソフトウェア パートナーや SoC プロバイダーはエンタープライズ AI の実現に向けて活用できる数多くの機会を提供します。

そして、買収時の発表でも述べられているように、NVIDIA には Armを通じて IP を利用できるようにしたいという意思があるため、こうした機会は間違いなくさらに増えていくことでしょう。

来るべき世界の姿

複数のプロバイダーが提供する Windows PC と Chromebook がすでに Arm プロセッサで実行されており、この形を目指すコンシューマー プラットフォームも増えていて、未来のパーソナル システムについてのアイデアに刺激を与えています。

NVIDIA では長い間、NVIDIA GPU を Arm ベースのシステムを含むあらゆる形状およびサイズの PC でサポートできるようにしてきました。最近の調査によると、ゲーミング PC の 70% 以上が NVIDIA GPU を使用しているとのことです。

将来は、グラフィックスと接続性に優れ、今日の PC と同じくらい強力で、かつ今日の PC 以上にエネルギー効率が高い、AI 活用型のパーソナル システムが実現する可能性があります。ヘルスケア市場で現在使用されている NVIDIA リファレンス デザインは、パーソナル システム市場などで Arm エコシステムが活用する可能性のある機能の一例です。

プラットフォームを構築するツール

NVIDIA が豊富なツールでサポートしているプロセッサ IP の Arm ポートフォリオなどの高度なテクノロジにより、新しいプラットフォームが実現可能になります。

Arm 用の CUDA ツールキットにより、Arm エコシステムに NVIDIA の GPU を活用したコンピューティングや AI 機能をもたらします。開発者は CUDA を介して、たとえばディープラーニング推論では TensorRT を、ビデオ分析では DeepStream を利用できます。

NVIDIA では Nsight Visual 開発者ツールの完全なスイートを提供しており、プロファイラ、デバッガなどを備えた Arm ベースの SoC やサーバーをサポートしています。開発者サイトから、すべてのツール、SDK、プラットフォームにアクセスできます。

NVIDIA は 10 年以上にわたって Arm をサポートしてきましたが、サポートはまだ始まったばかりです。私たちは、スマート カードからスーパーコンピューターまで、そして今後開発されるシステムなど、あらゆるものを動かしていく、成長著しい Arm エコシステム コミュニティの一員になれたことを嬉しく思っています。

どんな可能性があるのかについては、私たちには多くのアイデアがあり、Arm エコシステムの 1,300 万人の開発者からたくさんのことを学びたいと考えています。

GTCで開催された数百のライブ トーク、オンデマンド トークは、今からでもアクセスしてご覧いただけます。プロモーション コード CMB4KN を使用して 10 月 9 日までにご登録いただくと、20% オフとなります。今すぐご登録ください。