ソブリン AI エージェントが、NVIDIA AI ファクトリーを活用して、ローカル思考、グローバル展開へ

AI ファクトリー向けの検証済み設計は、アクセラレーテッド インフラと、新しい NVIDIA NIM マイクロサービスや拡張された NVIDIA Blueprint スイートなどのソフトウェアを組み合わせ、国や企業向けのフルスタック AI 開発を効率化へ
投稿者: Kari Briski

欧州連合 (EU) は AI に 2,000 億ドル以上を投資していますが、この投資から最大限の価値を引き出すには、開発者は、コンピューティング能力の不足、データ プライバシーの確保、そして安全性の優先事項という 3 つの主要な制約を克服する必要があります。

VivaTech で開催された NVIDIA GTC Paris 基調講演において発表された NVIDIA の新しいテクノロジ スイートは、AI 開発と展開のサイクルのあらゆる段階でこれらの課題への対応を容易にします。これらのツールを使用することで、企業はオンプレミスまたはクラウド上にスケーラブルな AI ファクトリーを構築し、安全で最適化された独自の AI エージェントを迅速に構築可能となります。

拡張された NVIDIA Enterprise AI Factory の検証済み設計は、NVIDIA Blackwell アクセラレーテッド インフラと次世代ソフトウェア スタックを組み合わせることで、ソブリン AI 向けのターンキー ソリューションを提供します。

その中核となるのは、現在 Hugging Face でホストされている 10 万以上のパブリック、プライベート、およびドメイン特化型の多様な大規模言語モデル (LLM) アーキテクチャに対して、企業が超高速な推論を開始できるようにする新しい NIM の機能です。

その上に、新しい NVIDIA AI Blueprint と開発者向けサンプルが階層化されます。これらは、堅牢な安全性、強化されたプライバシー、継続的な改善を確保しながら、AI エージェント の作成とオンボーディングのプロセスを簡素化する方法を開発者に提供します。

AI-Qデータ フライホイールの NVIDIA Blueprint、そして NVIDIA NeMo を使用した AI 安全性のブループリントを含むこれらの新しいツールにより、欧州の組織は、パフォーマンス、制御、コンプライアンスを損なうことなく、大規模な AI ファクトリーを構築、展開、運用できます。

既に欧州の大手企業は、ほぼすべての業界向けに NVIDIA アクセラレーテッド AI ファクトリーを構築しています。BNP Paribas や Finanz Informatik など、この地域の大手金融会社の中には、従業員や顧客を支援する金融サービス AI エージェントを運用するために AI ファクトリーを拡張しているところもあります。L’Oreal が支援するスタートアップ企業 Noli.com は、Accenture と提携して AI Beauty Matchmaker の開発に AI Refinery を使用しています。IQVIA は、ヘルスケア サービスをサポートする AI エージェントを構築しています。

通信業界では、BT Group が ServiceNow を活用して顧客サービスを最適化し、ネットワークの異常に対処しています。Telenor は、自律ネットワーク構成のために AI ファクトリーを活用し、NVIDIA AI Blueprint を実行しています。

エンタープライズ AI ファクトリーによる AI エージェント開発の促進

ソブリン AI エージェントを作成するための最初のステップはモデル開発です。多くの場合、特定のユースケースに合わせて最適化された地域固有のデータや企業固有のデータが使用されます。これらのモデルのトレーニング、管理、拡張を行うために、ソブリン AI 開発者は AI ファクトリーを必要とします。

オンプレミスのソブリン AI インフラは、政府、金融、ヘルスケアなどの規制対象セクターで特に重用されます。NVIDIA Enterprise AI Factory の検証済み設計は、すべてのハードウェアおよびソフトウェア レイヤーが最適化されたオンプレミス AI ファクトリーによって、これらの業界が AI アプリケーションを迅速にサポートできるように拡張するのに役立ちます。

NVIDIA RTX PRO サーバーを含む NVIDIA Blackwell アクセラレーテッド コンピューティング、NVIDIA ネットワーク、そして NVIDIA AI Enterprise ソフトウェアを搭載し、生成 AI アプリケーションとエージェント型 AI アプリケーションを高速化します。

AdaptiveML、ClearML、Dataloop、Deepchecks、deepset、Domino Data Labs、EnterpriseDB、Iguazio、Quantiphi、Teradata、Weaviate、Wiz といった複数の地域ソフトウェア プロバイダーが、この検証済み設計を統合し、開発者が大規模にエンタープライズ AI エージェントを構築、展開できるよう支援しています。

Enterprise AI Factory は、aiOla、DeepL、Elastic、Photoroom、PolyAI、Qodo、Sana Labs、Tabnine、ThinkDeep といった地域パートナーのソフトウェアとも連携が可能です。

NIM が NVIDIA インフラ全体にわたる LLM 展開を加速

AI のモデルとエージェントの展開準備が整った開発者は、NVIDIA NIM マイクロサービスを活用して、特定の言語やドメイン向けにカスタマイズされたモデルを含む、拡大し続けるグローバルな LLM スイート全体で、エンタープライズ対応の高速推論を実現できます。

NIM マイクロサービスは、現在 Hugging Face 上の膨大な LLM コレクションをサポートするようになりました。NIM は、NVIDIA TensorRT-LLM、SGLang、vLLM などの理想的な推論エンジンでモデルを自動的に最適化するため、ユーザーはいくつかの簡単なコマンドを実行するだけで、NVIDIA アクセラレーテッド インフラ上で高性能な AI 推論のために好みの LLM を迅速に展開できます。

Hugging Face の製品担当バイス プレジデントである Jeff Boudier 氏は、次のように述べています。「NIM により、Hugging Face の幅広い LLM を NVIDIA GPU に容易に展開できます。Hugging Face Hub でホストされている 10 万以上のパブリックおよびプライベートの LLM をサポートすることで、NIM はオープンモデルのパフォーマンスと多様性をエンタープライズ AI エージェントに提供してくれます」

エンタープライズ向けモデル ビルダーおよびソフトウェア開発ツール制作企業である AI21 Labs、Dream Security、IBM、JetBrains、欧州の研究、開発機関である Barcelona Supercomputing Center、Bielik.AI、UTTER なども、現在 NIM マイクロサービスとして利用可能な専門の LLM を提供しています。

これらの最適化されたモデルは、アラビア語、チェコ語、オランダ語、ドイツ語、ヘブライ語、フランス語、ポーランド語、ポルトガル語、スペイン語を含む 35 の地域の言語をサポートしており、現地の言語と文化を理解した AI エージェントを構築する開発者にとって選択肢が広がります。

日本国内においては、NEC が今後、NIM を活用して、NEC 開発の LLM である 「cotomi」 を最適化し、顧客へ提供予定です。

NVIDIA はまた、ヨーロッパの複数のモデル ビルダーや AI コンソーシアムと協力し、NVIDIA Nemotron テクノロジを用いてローカル モデルを最適化しています。

よりスマートで安全な AI エージェントのためのブループリント

開発者が強力で安全な AI モデルとエージェントの構築と導入をスムーズに開始できるよう、NVIDIA は分かりやすいブループリントと開発者向けサンプルを提供しています。これらのリファレンス デザインにより、欧州の開発者は、独自のデータに接続し、安全ポリシーを適用し、継続的にアップデートすることで、モデルとエージェントを地域のニーズに合わせてカスタマイズして、最適なパフォーマンスを実現できます。

AI-Q NVIDIA Blueprint は、高速なマルチモーダル データ抽出と強力な情報検索を実現するエージェント型システム開発のためのガイドを提供します。これには、AI エージェントを評価および最適化するためのオープンソース ソフトウェア ライブラリである NVIDIA NeMo Agentic AI ツールキットが含まれています。

Agentic AI ツールキットは、エージェント型 AI ワークフローにインテリジェンスをもたらし、AI エージェントとツールを接続するためのオープンソース フレームワークである Model Context Protocol (MCP) などのオープン スタンダードと互換性があります。この統合により、MCP サーバーが提供するツールとの相互運用性が実現します。Agentic Intelligence ツールキットは、CrewAI、LangChain、LlamaIndex、Microsoft Semantic Kernel、Weights & Biases などのエージェント フレームワークとも統合されています。

AI-Q Blueprint は、企業が幅広いエンタープライズ データソースを活用し、組織固有のニーズに合わせたインサイトを提供できるドメイン特化型 AI エージェントを構築するための基盤を提供します。DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Pure StorageVAST DataWEKA などの NVIDIA パートナーは、AI-Q を使用してデータ プラットフォームを AI エージェントに接続しています。

データ フライホイールを構築するための NVIDIA AI Blueprint により、企業は AI エージェントを継続的に改善できます。このブループリントには、推論データを新しいトレーニングおよび評価データセットに変換するツールや、高い精度を維持しながら最適化されたモデルを自動的に提示するツールが含まれています。

NVIDIA AI Enterprise を基盤とするこのブループリントは、本番環境のトラフィックとユーザーからのフィードバックを取り込み、再トレーニングと再展開のパイプラインを実行することで、継続的なフィードバック ループを作成し、モデルのパフォーマンスを向上させます。モジュラー型の NVIDIA NeMo マイクロサービスを搭載し、オンプレミスでもクラウドでも、あらゆるアクセラレーテッド コンピューティング インフラで実行できる柔軟な展開オプションを提供します。

このブループリントは、既存および新規の候補モデルを評価し、開発者が大規模なモデルと同等かそれ以上の精度を持つ、より小型で高速なモデルを特定し、展開するのを支援します。このツールを活用することで、企業はコンピューティング効率を高め、総所有コスト (TCO) を削減するモデルを選択できるようになり、よりスリムでコスト効率の高い AI を実現できます。

NVIDIA のパートナーである VAST Data、Weights & Biases と、QuantumBlack, AI by McKinsey が買収した AI プラットフォーム企業である Iguazio は、データ フライホイール向けの NVIDIA AI Blueprint を基盤として、それぞれのソフトウェア プラットフォームをベースに、高度な監視機能などの追加機能を統合しています。

企業がオープンソース モデルを安全に導入できるよう、Agentic AI Safety ブループリントは、コンテンツ、セキュリティ、プライバシーの各側面にわたってモデルの安全性を評価および強化するためのフレームワークを提供します。

NVIDIA が厳選したデータセットと標準化された評価ツールを通じて、開発者はポスト トレーニングの運用環境に適したモデルを準備できます。また、このレシピはジェイル ブレイク、プロンプト インジェクション、有害なコンテンツを網羅する実用的な安全性および脆弱性のメトリクスも提供し、企業はコンプライアンスや信頼性を損なうことなく、展開を加速できます。

企業が NVIDIA の新しいソフトウェアを統合へ

ActiveFence、Amdocs、Cisco、Cloudera、CrowdStrike、IBM、IQVIA、SAP、ServiceNow、Trend Micro といったグローバル企業が、サイバーセキュリティ、金融サービス、ヘルスケア、通信などの分野における AI ワークフローを加速するために、NVIDIA NIM マイクロサービスとブループリントを採用しています。

通信およびメディア プロバイダー向けのソフトウェアとサービスの大手プロバイダーである Amdocs は、同社の AI 製品およびサービス スイート「amAIz」の一部として、NVIDIA NeMo と NVIDIA NIM マイクロサービスを含む NVIDIA AI Enterprise を使用しています。同社は、LLMOps パイプラインでデータ フライホイールを構築し、効率的な LLM のファインチューニングを可能にするために NVIDIA AI Blueprint を使用しました。

Amdocs はまた、コンテンツ作成、翻訳、ネットワーク自動化、顧客サービスのための AI エージェントをサポートするため、さらに多くの NIM マイクロサービスを統合する予定です。

Capgemini、Accenture、Deloitte、EY、Infosys、Tata Consultancy Services、Wipro といったグローバル システム インテグレーターは、フルスタックの NVIDIA ソフトウェアを活用した企業の AI ファクトリー構築を支援しています。

VivaTech で NVIDIA の創業者/CEO である Jensen Huang (ジェンスン フアン) による NVIDIA GTC Paris 基調講演 を視聴し、GTC Paris のセッションをご覧ください。

ソフトウェア製品情報については、利用規約をご覧ください。