NVIDIA、クラウドからエッジまでArm を加速化

by Greg Estes · October 8, 2020

NVIDIA AI、HPC、グラフィックス SDKの組み込みをサポートし、HPC、クラウド、エッジ、PC プラットフォームからなる Arm エコシステムに GPU と DPU のアクセラレーションをもたらします。

Arm は、携帯電話や自動運転車からエッジシステム、さらには世界最速のスーパーコンピューターである日本の富岳まで、何十億ものデバイスの要となるアーキテクチャーです。

この幅広いシステムは、約 1,300 万人の開発者に支えられています。NVIDIA は、この活気に満ちたコミュニティに、独自のツールの拡張セットを提供していきます。

以下はその一例です。

NVIDIA AI – AI のトレーニングと推論を加速するための業界標準
NVIDIA RAPIDS – GPU でデータサイエンスとデータ分析を実行するソフトウェアライブラリー群
NVIDIA HPC SDK – ハイパフォーマンスコンピューティング用のコンパイラー、ライブラリー、およびソフトウェアツール
NVIDIA RTX – レイトレーシングと AI 機能を提供するグラフィックスドライバ

エッジコンピューティングや自律型マシン向けの Jetson の SoC で、また最近では BlueField DPU などのネットワーク製品で、NVIDIA は長年にわたって Arm コアを使用してきました。

BlueField のデータプロセッシングユニットは、パートナーや独立系ソフトウェアベンダーからのサポートを受け、クラウド、組み込みアプリケーション、エンタープライズアプリケーションのネットワークおよびストレージジョブを高速化して保護します。

これらのリソースを、エネルギー効率の高いコンピューティングのトップブランドである Arm に提供することで、お客様の選択肢が増え、Arm や NVIDIA パートナーの機会が 4 つの分野へと拡大します。

Arm に対する NVIDIA のサポートは、スーパーコンピューターからパーソナルな組み込みシステムにまで及びます。

ハイパフォーマンスコンピューティングの新しい展望

Arm では、世界最大かつ最も強力なシステムのニーズを満たすべく、Scalable Vector Extensions (SVE) を使用して同社のプロセッサテクノロジを拡張しています。NVIDIA のエンジニアは、富岳でも利用されているプロセッサである富士通の A64FX において、SVE のサポートにすでに取り組んでいます。

SVE は、データセンターのコンピューティングおよびネットワークに対応するために Arm Neoverse プラットフォームに追加された最新の拡張です。これは富岳の科学を進歩させるシミュレーションに威力を発揮し、世界で最も強力なコンピューター TOP500 リストで第 1 位にランクされています。

今回の NVIDIA の取り組みにより、Arm のパートナーやお客様は Neoverse CPU と NVIDIA GPU の組み合わせを使用したシステム向けに最適化したソフトウェアを構築できるようになります。これは、2019 年 6 月に発表された HPC イニシアチブの直近のステップであり、Arm のアクセラレーテッドコンピューティングと AI に使用する NVIDIA の CUDA ソフトウェアをサポートします。

NVIDIA HPC SDK に加えて、HPC のネットワークのバックボーンである NVIDIA Mellanox InfiniBand のソフトウェアも完全にサポートされ、現在 Arm サーバーに導入されています。また、エンジニアは、マルチノードシステムのストレージとネットワークパフォーマンスを最大化するソフトウェアである NVIDIA Magnum IO においてサポートを拡張し、Arm もサポート対象となりました。

クラウド内にあるゲームが大きなチャンスを生み出す

クラウドコンピューティングにおいて、NVIDIA はさまざまな面で Arm サーバーの SoC や OEM パートナーと関わっています。

たとえば、NVIDIA は Ampere Computing と提携して、同社の Mt. Jade サーバープラットフォームをクラウドゲームに拡張しました。Ampere Altra ベースのシステムには、80 コア Arm ベースの SoC が 2 個、NVIDIA T4 GPUが 4 個、NVIDIA Mellanox BlueField-2 DPU が 1 個搭載されています。これらが合わさることで、128 人のゲームユーザーに同時にサービスを提供し、中国で増加している 5G スマートフォンのユーザーに人気のある Android-in-Cloud サービスのセッションをストリーミングしています。

NVIDIA の支援を得て、Ampere Computing の Mt. Jade プラットフォームは、クラウドゲームの新興市場を開拓しています。

さらに、NVIDIA のエンジニアはコードを Arm に移し、クラウドゲームのエンコードやレンダリング方法、および Arm ベースのサーバーとユーザーとの間のストリーミング方法を最適化する新しいツールを開発中です。これらのツールは、GIGABYTE、Inspur、Wiwynnなどの Arm サーバー OEM で広く利用できます。

NVIDIA は、独自のサービスである GeForce NOW の運用経験から、クラウドゲームの可能性を肌で感じています。

クラウドサービスプロバイダーはゲーム以外にも、GPU によって高速化された機械学習、ストレージ、およびその他のアプリケーションに Arm ベースのサーバーを採用しています。そのため NVIDIA では、Kubernetes を使用して Arm で Docker コンテナを実行する NVIDIA Container Toolkit など、Arm ベースのサーバー向けにさまざまな GPU 管理や監視ツールを提供しています。

エンタープライズ AI をすべての企業にもたらす

エンタープライズネットワークのエッジは、コンピューティングにおいて次に目指すべき重要な分野です。NVIDIA EGX エッジ AI プラットフォームは、Arm を含む主要なプロセッサアーキテクチャーをすべてサポートしています。

NVIDIAは、エッジにおいてエネルギー効率の高いコンピューティングが必要であることを認識し、バーティカル市場でArmをアクセラレーテッドコンピューティングと AI 向けのプラットフォームの中心に据えました。これらのプラットフォームは通常、Jetson などの組み込みモジュール内で GPU を Arm ベースのマルチコア CPU とともに使用します。

NVIDIA では、こうしたモジュールのカスタマイズバージョンを、ヘルスケア (Clara)、ロボティクス (Isaac)、自律走行車両 (DRIVE) といった、分野ごとの開発者キットと一緒に組み合わせています。こうして、Arm ソフトウェアパートナーや SoC プロバイダーはエンタープライズ AI の実現に向けて活用できる数多くの機会を提供します。

そして、買収時の発表でも述べられているように、NVIDIA には Armを通じて IP を利用できるようにしたいという意思があるため、こうした機会は間違いなくさらに増えていくことでしょう。

来るべき世界の姿

複数のプロバイダーが提供する Windows PC と Chromebook がすでに Arm プロセッサで実行されており、この形を目指すコンシューマープラットフォームも増えていて、未来のパーソナルシステムについてのアイデアに刺激を与えています。

NVIDIA では長い間、NVIDIA GPU を Arm ベースのシステムを含むあらゆる形状およびサイズの PC でサポートできるようにしてきました。最近の調査によると、ゲーミング PC の 70% 以上が NVIDIA GPU を使用しているとのことです。

将来は、グラフィックスと接続性に優れ、今日の PC と同じくらい強力で、かつ今日の PC 以上にエネルギー効率が高い、AI 活用型のパーソナルシステムが実現する可能性があります。ヘルスケア市場で現在使用されている NVIDIA リファレンスデザインは、パーソナルシステム市場などで Arm エコシステムが活用する可能性のある機能の一例です。

プラットフォームを構築するツール

NVIDIA が豊富なツールでサポートしているプロセッサ IP の Arm ポートフォリオなどの高度なテクノロジにより、新しいプラットフォームが実現可能になります。

Arm 用の CUDA ツールキットにより、Arm エコシステムに NVIDIA の GPU を活用したコンピューティングや AI 機能をもたらします。開発者は CUDA を介して、たとえばディープラーニング推論では TensorRT を、ビデオ分析では DeepStream を利用できます。

NVIDIA では Nsight Visual 開発者ツールの完全なスイートを提供しており、プロファイラ、デバッガなどを備えた Arm ベースの SoC やサーバーをサポートしています。開発者サイトから、すべてのツール、SDK、プラットフォームにアクセスできます。

NVIDIA は 10 年以上にわたって Arm をサポートしてきましたが、サポートはまだ始まったばかりです。私たちは、スマートカードからスーパーコンピューターまで、そして今後開発されるシステムなど、あらゆるものを動かしていく、成長著しい Arm エコシステムコミュニティの一員になれたことを嬉しく思っています。

どんな可能性があるのかについては、私たちには多くのアイデアがあり、Arm エコシステムの 1,300 万人の開発者からたくさんのことを学びたいと考えています。

GTCで開催された数百のライブトーク、オンデマンドトークは、今からでもアクセスしてご覧いただけます。プロモーションコード CMB4KN を使用して 10 月 9 日までにご登録いただくと、20% オフとなります。今すぐご登録ください。