NVIDIA Xavier がパフォーマンス ベンチマークで 2 連覇

投稿者: Danny Shapiro

自動運転車両向け DRIVE AGX プラットフォームの頭脳が MLPerf 推論テストで 2 年連続トップに

AI 搭載車はもはや未来の夢ではなく、目の前にある現実となりました。そしてそれは、NVIDIAの自動運転車両向けシステムオンチップ、NVIDIA Xavier でなければ成し遂げることはできません。

このような最先端車両にとって鍵となるのが、推論です。推論とは、AI モデルをリアルタイムで実行し、膨大なデータから洞察を引き出すプロセスを指します。そして車載での推論においても、NVIDIA Xavier が AI 処理能力を実際に備えた最高 — かつ唯一 — のプラットフォームであることが再度実証されました。

NVIDIA GPU は、コンソーシアムが策定し、同業者によって審査される唯一の推論パフォーマンス テストである MLPerf ベンチマークの最新ラウンドにて、データ センターおよびエッジ コンピューティング システムにおける AI 推論でパフォーマンスの記録を更新しました。NVIDIA Xavier は、昨年実施された最初の AI 推論テストで実証したパフォーマンスの優位性をさらに高めただけでなく、エネルギー効率の良いエッジ コンピューティング向け SoC のユース ケースとして新たに加えられた応用分野にもすべて対応しています。

インテリジェント車両での推論は、スタック全体に関わる困難さがあります。センサーを処理した上で、ニューラルネットワーク、オペレーティング システム、各種アプリケーションをすべて同時に実行できなければならないためです。これほどの高度な複雑さには多大な投資が欠かせませんが、NVIDIA ではその規模の投資を継続的に行っています。

NVIDIA Ampere アーキテクチャをベースとした新しい NVIDIA A100 GPU も競合を抑え、データ センター向け推論で CPU を最大 237 倍上回るパフォーマンスを記録しました。データ センターにおけるこの水準のパフォーマンスは、広範に展開され大規模なスケーリングが必要とされる、車両で運用されるニューラルネットワークのトレーニングと検証には不可欠なものです。

これだけのパフォーマンスを達成することは容易ではありません。現に、フルスタックの自動運転ソリューションを実行できることが実証された企業のほとんどが、そのソリューションを NVIDIA 上で実行しています。

この MLPerf テストから、AI 処理能力はプラットフォームが 1 秒間に何兆回の演算 (TOPS) を達成できるかという単なる数字を超えたところにあることがわかります。つまり、コンピューティング プラットフォームの AI 処理能力を決定付けるのは、アーキテクチャであり、柔軟性であり、付随するツールであるということです。

Xavier の無類のパフォーマンス

これらの推論テストは、ソフトウェア デファインド車両に必要とされるような複雑なワークロードを評価する一連のベンチマークを示すものです。エッジ コンピューティングをはじめ、複数のシナリオにわたる各種ベンチマーク テストでは、ソリューションが、最新の車両で求められるような、1 つのタスクだけでなく多数のタスクで並外れたパフォーマンスを発揮できるかどうかが検証されます。

今年のテストでは、NVIDIA Xavier が、シングルストリームとマルチストリームの両方の推論タスクにおいて、車両やロボットでのエッジ コンピューティングに必要なプロセッサである、エネルギー効率の良いエッジ コンピューティング向け SoC で圧倒的な結果を収めました。

Xavier は、自動運転アプリケーションとコックピット アプリケーションの両方に適した NVIDIA DRIVE AGX コンピューターの頭脳となる現行世代の SoC であり、6 種類のプロセッサ (CPU、GPU、ディープラーニング アクセラレータ、プログラマブル ビジョン アクセラレータ、イメージ シグナル プロセッサ、ステレオ/オプティカル フロー アクセラレータ) が搭載された AI スーパーコンピューターです。

NVIDIA DRIVE AGX Xavier

そのアーキテクチャによって、Xavier は AI 推論において無類のパフォーマンスを達成しています。搭載されたプログラマブル ディープ ニューラルネットワーク アクセラレータが、高スループット、低レイテンシの DNN 処理のオペレーションを最適にサポートします。自動運転に使用されるアルゴリズムはいまだ初期段階にあるため、NVIDIAは Xavier コンピューティング プラットフォームを新しいインタラクションに対応できるように柔軟性を持たせて構築しました。

新しい各種ニューラルネットワークをサポートするには、幅広いニューラルネットを使用してさまざまな種類のデータを処理する必要があります。Xavier の素晴らしい処理能力なら、インテリジェントなユーザー インターフェイスを備えた安全な自動運転・自律走行車を実現するための推論の負荷に対応できます。

業界での採用により実証された有効性

業界でパフォーマンスの TOPS を比較して自律機能を測定する際には、それらのプラットフォームが実際の AI ワークロードにどの程度対応できるかをテストすることが重要になります。

業界の主要な推論ベンチマークで Xavier が 2 連覇を果たしたことは、AI アプリケーション開発における NVIDIA のアーキテクチャの優位性を示しています。実際にNVIDIAの SoC は、このかつてない挑戦に耐えられることが実証された唯一のプラットフォームです。

自動車メーカー、ティア 1 サプライヤー、およびスタートアップの大多数が、DRIVE プラットフォーム上で開発を進めています。NVIDIA は、パートナーのプラットフォーム上で実際に AI アプリケーションを実行することで多くの経験を積んできました。それらの教訓や改善点はすべて NVIDIA DRIVE エコステムにさらなる恩恵をもたらします。

水準をさらに引き上げる

快進撃はまだまだ止まりません。NVIDIAの次世代 SoC である NVIDIA Orin が来年リリースされ、驚くべきエネルギー効率によって Xavier の 7 倍近い性能を実現する予定です。

NVIDIA Orin

Xavier は、CUDATensorRT などのソフトウェア ツールとの互換性を備え、ターゲット ハードウェアへの DNN の最適化をサポートしています。Orin ではこれらと同じツールが利用できるため、開発者はこれまでのソフトウェア開発を最新のハードウェアにシームレスに移行できます。

NVIDIA は、今回も実際の AI に対応できる唯一のソリューションであることを証明しましたが、より安全でより高度に発達した未来の実現に向けて、引き続き自動運転車をはじめとする変革的技術を後押しします。