AI エージェントの精度、関連性、そして即時性は、それを動かすデータに依存します。
一般提供が開始された NVIDIA NeMo マイクロサービスは、エンタープライズ IT がデータ フライホイールを活用して、従業員の生産性を向上させる AI チームメイトを迅速に構築できるよう支援します。このマイクロサービスは、最先端のエージェント型 AI システムを構築するためのエンドツーエンドの開発プラットフォームを提供し、推論やビジネスデータ、そしてユーザーの設定に基づいたデータ フライホイールによってシステムを継続的に最適化します。
データ フライホイールを活用することで、エンタープライズ ITは AI エージェントをデジタル チームメイトとしてオンボードできます。これらのエージェントは、ユーザー インタラクションや AI 推論中に生成されるデータを活用してモデルのパフォーマンスを継続的に向上させ、使用状況から洞察を導き出し、行動へとつなげます。
エージェント型 AI のための強力なデータ フライホイールの構築
データベース、ユーザー インタラクション、現実世界のシグナルなど、高品質な入力が継続的に得られなければ、エージェントの理解力および応答の信頼性が低下し、結果、エージェントの生産性も低下する可能性があります。
本番環境で AI エージェントを動かすモデルを維持、改善するには、3 種類のデータが必要です。それは、洞察を収集し、進化するデータパターンに適応するための推論データ、インテリジェンスを提供するための最新のビジネス データ、そしてモデルとアプリケーションが期待どおりに動作しているかどうかを判断できるユーザー フィードバック データです。NeMo マイクロサービスは、開発者がこれら 3 種類のデータを活用できるよう支援します。
NeMo マイクロサービスは、エージェントを駆動するモデルをキュレーション、カスタマイズ、評価、ガードレールのためのエンドツーエンドのツールを提供することで、AI エージェントの開発を加速します。
NVIDIA NeMo マイクロサービス (NeMo Customizer、NeMo Evaluator、NeMo Guardrails を含む)、NeMo Retriever および NeMo Curator を組み合わせることで、企業がカスタム エンタープライズ データ フライホイールを通じて AI エージェントの構築、最適化、拡張を行う体験を容易にします。例えば、次のようなメリットがあります。
- NeMo Customizer は、大規模言語モデルのファイン チューニングを高速化し、トレーニング スループットを最大 1.8 倍向上させます。この高性能でスケーラブルなマイクロサービスは、教師ありファイン チューニングや低ランク適応といった一般的なポストトレーニング手法を採用しています。
- NeMo Evaluator は、わずか 5 つのアプリケーション プログラミング インターフェース (API) コールで、カスタムおよび業界標準のベンチマークにおける AI モデルとワークフローの評価を簡素化します。
- NeMo Guardrails は、わずか 0.5 秒の追加のレイテンシで、コンプライアンス保護を最大 1.4 倍向上させ、組織のポリシーやガイドラインに準拠した堅牢な安全性とセキュリティ対策を実施できるよう支援します。
NeMo マイクロサービスを活用することで、開発者は AI エージェントの精度と効率性を向上させるデータ フライホイールを構築できます。NVIDIA AI Enterprise ソフトウェア プラットフォームを通じて展開される NeMo マイクロサービスは、運用が容易で、オンプレミスでもクラウドでも、あらゆるアクセラレーテッド コンピューティング インフラ上で実行可能で、エンタープライズ グレードのセキュリティ、安定性、サポートを備えています。
このマイクロサービスは、企業が大規模なマルチエージェント システムを構築している時期に一般提供を開始しました。これらのシステムでは、明確な目標とワークフローを持つ数百の専門エージェントが連携し、デジタル チームメイトとして複雑なタスクに取り組みます。従業員と協力して、部門横断的な業務を支援、強化、加速します。
この企業全体への影響により、AI エージェントは 1 兆ドル規模のビジネス チャンスとして位置付けられ、自動不正検出、ショッピング アシスタント、予測的な機械メンテナンス、ドキュメント レビューなど、幅広いアプリケーションが活用されています。また、ビジネス データを実用的な洞察に変換する上で、データ フライホイールが果たす重要な役割を強調しています。
業界のパイオニアが NeMo マイクロサービスで AI エージェントの精度を向上
NVIDIA のパートナー企業と業界のパイオニア企業は、NeMo マイクロサービスを活用して応答性の高い AI エージェント プラットフォームを構築し、デジタル チームメイトがより多くの成果を生み出せるようにしています。
AT&T は、Arize および Quantiphi と協力し、NVIDIA NeMo を活用した高度な AI 搭載エージェントを構築しました。このエージェントは、毎週更新される約 10,000 件のドキュメントからなるナレッジベースを処理できるように設計されています。このスケーラブルで高性能な AI エージェントは、スピード、コスト効率、精度という 3 つの主要なビジネス優先事項に合わせてファイン チューニングされており、導入の拡大に伴い、これらはすべて、ますます重要な要素となっています。
AT&T は、NeMo Customizer と Evaluator を用いて Mistral 7B モデルをファイン チューニングすることで、AI エージェントの精度を最大 40% 向上させ、パーソナライズされたサービスの提供、不正行為の防止、ネットワーク パフォーマンスの最適化を実現しました。
BlackRock は、共通のデータ言語を通じて投資管理プロセスを統合する Aladdin テクノロジ プラットフォームのエージェント AI 機能に、NeMo マイクロサービスを採用しています。
Cisco の Outshift チームは、Galileo と提携し、NVIDIA NeMo マイクロサービスを活用したコーディング アシスタントを開発しています。このアシスタントは、ツール選択エラーを 40% 削減し、応答時間を最大 10 倍高速化します。
Nasdaq は、NeMo Retriever マイクロサービスと NVIDIA NIM マイクロサービスを活用して、Nasdaq Gen AI Platform の高速化を図っています。NeMo Retriever はプラットフォームの検索機能を強化し、精度と応答時間を最大 30% 向上させるとともに、コスト削減を実現しました。
NeMo マイクロサービス向けの幅広いモデルとパートナー エコシステムのサポート
NeMo マイクロサービスは、Llama、Microsoft Phi ファミリーの小規模言語モデル、Google Gemma、Mistral、そして科学的リーズニング、コーディング、複雑な数学のベンチマークにおいて現在トップのオープンモデルである Llama Nemotron Ultra など、幅広い人気のオープンモデルをサポートしています。
Meta は、Meta Llamastack 向けの新しいコネクタを通じて NVIDIA NeMo マイクロサービスを活用しています。ユーザーは API を介して、Customizer、Evaluator、Guardrails などの同じ機能にアクセスでき、エージェント構築ワークフローのフルスイートを自社環境内で実行できます。
Meta の GenAI ソフトウェア エンジニアであるRaghotham Murthy 氏は次のように話しています。「Llamastack との統合により、エージェント開発者は NeMo マイクロサービスを活用したデータ フライホイールを実装できます。これにより、モデルを継続的に最適化し、精度および効率性を向上させ、そして総所有コスト (TCO) を削減することが可能です」
Cloudera、Datadog、Dataiku、DataRobot、DataStax、SuperAnnotate、Weights & Biases といった主要な AI ソフトウェア プロバイダーが、自社のプラットフォームに NeMo マイクロサービスを統合しています。開発者は、CrewAI、Deepset の Haystack、LangChain、LlamaIndex、Llamastack といった一般的な AI フレームワークで NeMo マイクロサービスを利用できます。
企業は、DDN、Dell Technologies、Hewlett Packard Enterprise、日立ヴァンタラ、IBM、NetApp、Nutanix、Pure Storage、VAST Data、WEKA などを含む NVIDIA-Certified Storage パートナーが提供する NVIDIA AI Data Platform を使用して、NeMo Retriever マイクロサービスでデータ フライホイールを構築することができます。
Amdocs、Cadence、Cohesity、SAP、ServiceNow、Synopsys を含む主要なエンタープライズ プラットフォームは、AI エージェント ソリューションに NeMo Retriever マイクロサービスを採用しています。
企業は、Cisco、Dell、Hewlett Packard Enterprise、Lenovo などの大手システム プロバイダーの NVIDIA アクセラレーテッド インフラ、ネットワーク、ソフトウェア上で AI エージェントを実行できます。
Accenture、Deloitte、EY といった大手コンサルティング企業は、NeMo マイクロサービスを活用したエンタープライズ向け AI エージェント プラットフォームを構築しています。
開発者は、NVIDIA NGC カタログから NeMo マイクロサービスをダウンロードできます。これらのマイクロサービスは、API の安定性、プロアクティブなセキュリティ対策、エンタープライズ グレードのサポートを実現する長期ソフトウェア ブランチを備えた NVIDIA AI Enterprise の一部として展開可能です。