AWS Outpost で企業のデータセンターに GPU を配備

投稿者: Justin Boitano

ハイブリッド AWS クラウドで、AI、IoT およびグラフィックス向けに NVIDIA T4 GPU を活用

Amazon Web Services での GPU アクセラレーションの機能が自社データセンターでも実行。

NVIDIA T4 Tensor コア GPU に対応したAWS Outpostsの一般利用が可能になります。これにより、自社のデータセンター内にクラウドベースの Amazon EC2 G4 インスタンスを展開し、AI およびグラフィックス向けの多様なアプリケーションにて、セキュリティおよび遅延についてのユーザー要件を満たすことができます。
この新しい機能により、AI はもはや研究プロジェクトではなくなります。

多くの企業は、今でも自社内にデータを保管しています。データが自社のコアの知的財産だと考えているからです。しかし、ディープラーニングを研究から運用に移行するためには、企業はデータだけでなく、クラウドが提供する柔軟性と開発のしやすさが必要になります。これを自社でできるようになるという点が、T4 GPU に対応した AWS Outposts の大きな特長です。

この新しい機能により、企業は自社のデータセンターで安全に保管されている大規模なデータ レイクに、フルマネージドで、ラックスケールのアプライアンスを組み合わせられるようになります。

企業全体で AI の高速化

ニューラル ネットワークをトレーニングするには、NVIDIA ドライバから、コンテナ ランタイム、アプリケーション フレームワークに至る、ソフトウェアのあらゆるレイヤを最適化しなければなりません。Sagemaker や Elastic MapReduce、ならびにカスタムビルドの Amazon Machine Images で設計された他のたくさんのAWS のサービスでは、大規模なデータセットでトレーニングを始めるために、モデル開発が必要になります。NVIDIA のテクノロジを活用した AWS Outposts の導入により、これらのサービスを企業のデータセンターで安全に実行できるようになります。

Outposts 内の GPU が、ハイ パフォーマンス コンピューティングやその他の GPU アプリケーションとともに、ディープラーニングを高速化します。これらの GPU はすべて、GPU で高速化され、最適化されたソフトウェアのための NVIDIA のハブである、NGC 内のソフトウェアにアクセスできます。NGC には、トレーニング済みモデルを含むアプリケーション、フレームワーク、ライブラリおよび SDK が揃っています。

AI 推論の場合、NVIDIA EGX エッジ コンピューティング プラットフォームも AWS Outposts 上で実行でき、AWS Elastic Kubernetes Service と連携します。NVIDIA T4 GPU のパワーを活用したこれらのサービスは、CPU だけの場合に比べて、はるかに多くの情報を処理する能力を持っています。これらサービスによって、製造、医療、金融サービス、小売り、その他の業界のいずれであっても、モノのインターネット (IoT) のセンサーからリアルタイムで流れてくる膨大な量のデータから洞察をすばやく得られるようになります。

EGX に加えて、NVIDIA Metropolis アプリケーション フレームワークがビジョン AI の構成要素を提供することで、スマートシティ、小売り、物流および工業検査、その他の AI および IoT のユースケースでの AI の利用が加速され、AWS Outposts を通じて簡単に提供されるようになります。

それ以外にも、 NVIDIA Clara アプリケーション フレームワークは、医用画像処理やフェデレーテッド ラーニング、AI支援によるデータ ラベリングなどの多様な用途で、医療機関が AI を利用できるように調整されています。

T4 GPU の Turing アーキテクチャは TensorRT を使用して、業界でもっとも広範な AI モデルを高速化します。また、Tensor コアは、CPU の最大 40 倍以上の推論性能を実現する、多精度演算に対応しています。

リモート グラフィックスをローカルでホスト

ハイエンド グラフィックスのユーザーには、さまざまな選択肢が用意されています。大規模なデータセットやモデルにアクセスする必要のある、リモートのデザイナーやアーティスト、技術者は、クラウドの利便性と GPU のパフォーマンスの両方を利用できるようになっています。

グラフィックスのプロフェッショナルは、パブリックな AWS クラウドだけでなく内部のクラウドでも、T4 GPU を搭載した AWS Outposts によって、世界のプロフェッショナル向けワークステーションのほとんどに搭載されているものと同じ、NVIDIA Quadro テクノロジを利用できるようになります。

ローカル、あるいはクラウドで作業していても、Quadro のユーザーは、グラフィックス負荷が高く、GPU によって高速化される数百のサードパーティー アプリケーションにアクセスできます。

AWS Marketplace で入手可能な Quadro 仮想ワークステーション には、物理ワークステーションと同じ Quadro ドライバが含まれています。このドライバは、Dassault Systèmes の SOLIDWORKS と CATIA、Siemens NX、Autodesk の AutoCAD と Maya、ESRI ArcGIS Pro、ならびに ANSYS の Fluent、Mechanical および Discovery Live といった、数百の Quadro 認定アプリケーションに対応しています。

AWS と NVIDIA が提供する機能 についての詳しい情報については、リンク先をご覧ください。