NVIDIA EGX スーパーコンピューティングプラットフォームが、エンタープライズKubernetes によってエッジへの AI の導入を簡略化

by Adel El Hallak · October 23, 2019

新しい NVIDIA GPU Operator、Helm チャートおよび NGC-Ready システムが、エッジおよびハイブリッドプラットフォームへのエンタープライズの移行を後押し

AI はもはや研究プロジェクトではありません。AI は現実世界で組織の問題を解決しており、現在では AI モデルをどこに展開して、意思決定をいかに迅速化するかということが課題になっています。

AI の拡大、モノのインターネット、ならびに近づきつつある 5G インフラストラクチャにより、企業がデータセンターではなくエッジに自社のモデルを組み込み、数十億のセンサーでデータをストリーミングし、リアルタイムの意思決定を実現させる時代が来ています。

大規模に AI ワークロードを展開している企業は、オンプレミスのデータセンターとクラウドを組み合わせて使い、データの収集場所に AI モデルを適用させています。データセンターのように IT の専門知識がないと、小売店や駐車場などのエッジでこれらのワークロードを展開するのは非常に困難です。

Kubernetes を利用することで、アプリケーションの展開、管理および規模拡大に伴う手作業のプロセスの多くが不要になります。Kubernetes はオンプレミス、エッジおよびクラウドにまたがる一貫性のあるクラウドネイティブな導入アプローチを可能にします。

しかし、専門性をもった人がそれぞれのエッジの現場に配置されていない場合、Kubernetes クラスタを構築し、遠隔地にある数百、数千ものアプリケーションを管理するのは極め困難です。NVIDIA は、NVIDIA EGX スーパーコンピューティングプラットフォームで、これらの課題に対処しようとしています。

AI のデプロイを簡略化

NVIDIA EGX は、クラウドネイティブなソフトウェアデファインドプラットフォームで、大規模なハイブリッドクラウドおよびエッジでの運用を可能にし、さらにそれを効率的にするために設計されています。

プラットフォーム内には、NVIDIA ドライバ、Kubernetes プラグイン、NVIDIA コンテナランタイムおよび GPU 監視ツールで構成されているEGX スタックがあり、NVIDIA GPU Operator を通じて提供されます。事業者は、運営上の知識およびワークフローを体系化し、Kubernetes によってコンテナ化されたアプリケーションのライフサイクル管理を自動化できるようになります。

GPU Operator には、GPU に対応する Kubernetes システムをプロビジョニングするために必要なすべてのコンポーネントの導入を標準化および自動化するクラウドネイティブの手法である、Helm チャートが実装されています。NVIDIA、Red Hat およびクラウドネイティブコミュニティーのその他企業は、共同で GPU Operator を作成しています。

GPU Operator により、IT チームは、CPU ベースのシステムを管理するのと同じ方法で、遠隔地にある GPU 搭載サーバーを管理することもできます。これにより、単一のイメージで多様なリモートシステムを構成し、現場に技術的な専門知識がなくても、エッジで AI アプリケーションを実行することが容易になります。

EGX スタックアーキテクチャは、Canonical や Cisco、Microsoft、Nutanix、Red Hat、VMware といった、ハイブリッドクラウドパートナーからの支持を受けており、導入をさらに簡略化し、クラウドおよびデータセンターからエッジに至る、一貫したエクスペリエンスを提供します。

NGC-Ready for Edge

世界の主要サーバーメーカーが提供している NGC-Ready システムは、GPU に最適化されたコンテナのための NVIDIA ソフトウェアのハブである NGC の AI ソフトウェアの機能および性能についての認証を受けています。

本日、ロサンゼルスの Mobile World Congress において、NVIDIA は NGC-Ready プログラムを拡張し、エッジの展開に対応する、 NGC-Ready for Edge システムを追加すると発表しました。このシステムは、エッジでの展開についての根本的な要件である、セキュリティおよびリモートシステム管理についての追加のテストを受けています。このような認証を受けたシステムは、EGX スタックの実行に適しており、これらシステムによって、ハイブリッド展開が簡単かつ簡略にできるようになります。

認証を受けた NGC-Ready for Edge システムは、Adventec、Altos Computing、ASRock Rack、Atos、Dell Technologies、富士通、GIGABYTE、Hewlett Packard Enterprise、Lenovo、MiTAC、QCT、Supermicro および TYAN といった、世界の大手メーカーより発売されています。

NGC 認証の拡大

現在、NGC では AI ソフトウェアの展開および管理のための Helm チャートレジストリを提供しています。Helm チャートは、強力なクラウドネイティブツールで、Kubernetes クラスタでアプリケーションを展開する場所と方法のカスタマイズおよび自動化を可能にします。

NGC の Helm チャートレジストリには、AI フレームワークとともに、GPU Operator、医用画像向けのNVIDIA Clara、ならびにスマートシティー、スマートリテールおよび工業検査のためのNVIDIA Metropolis といった、NVIDIA のソフトウェアが含まれています。NGC はまた、車両分析用の DeepVision、動画検索用の IronYun およびストリーミングアナリティクス用の Kinetica といった、サードパーティーの AI アプリケーション向けの Helm チャートも提供しています。

NGC-Ready サポートサービスにより、開発者および事業者のチームは、自らの NGC-Ready for Edge システムの個別の Helm 登録にアクセスし、Helm charts の提供および共有ができます。これにより、チームは、統合および展開の継続的なサイクルをスピードアップするために、一貫性があり、セキュアかつ信頼できる環境を利用できるようになります。