NVIDIA Fleet Command は、リモート管理、Multi-Instance GPU、およびさらなる統合機能を追加し、エッジにおけるグローバルな AI 展開のメンテナンスと最適化を実現

エッジにおける AI アプリケーションの展開、管理、拡張を支援するクラウド サービスである NVIDIA Fleet Command に、世界中に展開するエッジ AI のシームレスな管理を強化するさまざまな機能が追加されました。

エッジ AI 展開の規模が大きくなると、企業の IT チームが管理しなければならない独立したエッジ ロケーションの数は最大で数千個にものぼる場合があります。エッジは時には石油採掘施設、気象計設置施設、分散型小売店、産業施設といった遠隔地に配置されていることもあります。

NVIDIA Fleet Command は、コンテナ オーケストレーションのためのシンプルで管理されたプラットフォームにより、数千もの分散型環境で AI アプリケーションおよびシステムのプロビジョニングや展開を簡単に行えるようにします。これらすべてを単一のクラウドベースのコンソールから行うことができます。

しかし、展開は、エッジにおける AI アプリケーション管理の最初のステップに過ぎません。これらのアプリケーションを最適化するには、パッチの適用、新しいアプリケーションの展開、エッジ システムの再起動などの作業をともなう継続的なプロセスが必要です。

これらのワークフローを管理された環境下でシームレスに実行できるようにするために、最新の Fleet Command では、高度なリモート管理、Multi-Instance GPU プロビジョニング、そして業界パートナーのツールとの統合機能が追加されました。

高度なリモート管理

IT 管理者は、高度なセキュリティ機能を備えたシステムやアプリケーションを利用できるようになります。Fleet Command のリモート管理機能は、アクセス制御と時間指定セッションにより、従来の VPN 接続に付き物の脆弱性を解消します。管理者は快適なオフィスにいながら、遠隔地のエッジ ロケーションでのアクティビティを安全に監視し、問題を解決することができます。

エッジ環境は非常に動的であることから、エッジ AI 展開を担当する管理者は、高い機動性を発揮して、急速な変化に対応しながら展開のダウンタイムを最小限に抑える必要があります。そのため、リモート管理機能は、すべてのエッジ AI 展開に不可欠となっています。

こちらの完全解説ページでは、新しいリモート管理機能の詳細のほか、管理者がそれらの機能をどのように活用すれば最大規模のエッジ展開をメンテナンスし、最適化できるかを説明しています。

Multi-Instance GPU プロビジョニング

Multi-Instance GPU (MIG) は、NVIDIA GPU を複数の独立したインスタンスに分割する機能です。MIG は、Fleet Command で現在利用可能になっており、管理者は Fleet Command のユーザー インターフェースから各インスタンスに簡単にアプリケーションを割り当てることができます。MIG により、同じ GPU 上で複数の AI アプリケーションを実行できるようになり、企業は展開の規模を適正化し、エッジ インフラストラクチャを最大限に活用することができます。

管理者が Fleet Command で MIG を使用してエッジ リソースを最適化し、新しいワークロードを容易に拡張する方法についてはこちらをご覧ください。

連携を通じた AI の拡大

Fleet Command の新たなコラボレーションは、開発からエッジでの展開に至るまで、企業がシームレスなワークフローを構築するためにも役立っています。

Domino Data Lab が提供するエンタープライズ向け MLOps プラットフォームでは、多くのデータ サイエンティストがそれぞれ好みのツール、言語、インフラストラクチャを使用して、AI モデルを共同で開発し、展開し、監視することができます。Domino プラットフォームと Fleet Command の統合により、データ サイエンス チームと IT チームは、単一の記録システムと一貫したワークフローを利用し、エッジ ロケーションに展開するモデルを管理することが可能になります。

ビデオ管理システムのリーディング プロバイダーであり、NVIDIA Metropolis のエリート パートナーでもある Milestone Systems は、アプリケーション プログラミング インターフェース ゲートウェイのAI Bridge を開発しました。AI Bridge は、何十ものカメラ ストリームから統合されたビデオ フィードにAI アプリケーションが容易にアクセスできるようにします。現在 Fleet Command と統合されている Milestone AI Bridge は、あらゆるエッジ ロケーションに簡単に展開することができます。

NVIDIA Metropolis のエリート パートナーであり、NVIDIA パートナー ネットワークの主要メンバーである IronYun は、独自の Vaidio AI プラットフォームにより、複数の世代にわたって進化した高度な AI を、世界中のセキュリティ、安全、および運用アプリケーションに適用しています。Vaidio は、あらゆる IP カメラに対応しているオープン プラットフォームであり、市場をリードする数十のビデオ管理システムとすぐに統合することができます。Vaidio は、オンプレミス、クラウド、エッジ、およびハイブリッド環境での展開が可能です。Vaidio は、1 台から数千台のカメラにまで拡張することができます。Fleet Command は、エッジでの Vaidio AI の展開を容易化し、規模に応じた管理を簡素化します。

これらの新機能とコラボレーションの拡張により、Fleet Command は、日々のメンテナンス、監視、および最適化プロセスを支援し、簡単で面倒のないエッジ展開を実現します。

Fleet Command の試用

Fleet Command のこれらの機能を試すには、無料の NVIDIA LaunchPad をご利用ください。

LaunchPad は、Fleet Command インスタンスへの即時かつ短期間のアクセスを提供します。インフラストラクチャのプロビジョニングや最適化から、ネットワークのエッジにビジョン AI を活用するユース ケースのアプリケーション展開に至るまで、プロセス全体を通してユーザーをガイドするハンズオン ラボを使用し、実際のサーバー上に実際のアプリケーションを簡単に展開し、監視することができます。