データセンターからデスクトップまでオープンに:NVIDIA、最高水準の効率を誇る Super VL と Bolt モデルを追加し、Nemotron ファミリーを拡充

5 倍の処理速度と高い精度を実現し、カスタマイズ可能な Nemotron 3.5 Super VL が、常時稼働エージェント向けの NVIDIA オープン モデルを拡充。Nemotron 3.5 Bolt はローカルの NVIDIA システムにエージェント型インテリジェンスを提供
投稿者:

NVIDIA は本日、特化型の常時稼働エージェントにおいて、最速のタスク完了と最高の精度を実現する、1,200 億パラメータのオープン モデル、Nemotron 3.5 Super VL をリリースしました。

さらに、2 つの新しいエッジ向けモデルも加わりました。Nemotron 3.5 Bolt 74B-A9B 24GB は、ローカルのエージェント型ワークロード向けに、メモリ 1 GB あたりのインテリジェンスと速度のバランスを最適化しています。Nemotron 3.5 Bolt E4B 4GB は、高速な対話型エージェント向けに、メモリ 1 GB あたりのインテリジェンスを最適化しています。

Super VL と Bolt 74B-A9B は現在提供中で、Bolt E4B は 10 月 23 日に提供を開始する予定です。

これら 3 つのオープン モデルは、大規模なエンタープライズ サーバーからエッジ デバイスやローカル ハードウェアに至るまで、エージェントのあらゆる導入形態をカバーします。

NVIDIA インフラ上でエージェントを実行したいあらゆる組織が、機能と導入のしやすさを両立した、各環境に最適化されたオープン モデルを利用できるようになりました。

Super VL と Bolt は、Lightning および Ultra とともに Nemotron ファミリーに加わります。

8 月にリリースされた Lightning は高スループットのワークロードを処理し、Ultra は最も難しいリーズニング タスク処理を担い、Bolt はエッジにインテリジェンスをもたらします。

Nemotron 3.5 Super VL:5 分の 1 の規模でフロンティア レベルの精度を実現

Nemotron Coalition との協力により構築された Super VL は、指示追従、ツールの使用、複数ステップの業務ワークフロー、視覚理解といったマルチ モーダルのエージェント型タスクで、最高水準の精度を実現します。パラメータ数は NVIDIA 最大のリーズニング モデルの約 5 分の 1 でありながら、同モデルに匹敵する精度を発揮します。

Nemotron 3.5 Super VL は、大量の処理を伴うエージェント型ワークフローにおいて、同クラスでフロンティア レベルのインテリジェンスを実現します。

同クラスで次に高速なモデルの 5 倍の速度を誇る、最速のオープンなエージェント型モデルとして、数日から数週間にわたるワークフローで、企業のAIエージェントが大量のタスク処理をより高速化できるように支援します。

Artificial Analysis Intelligence Index のリーダーボードにおいて、Nemotron 3.5 Super VL は、同クラスの他のモデルと比較して最大 5 倍のスループットを達成しています。

クローズドなフロンティア モデルとは異なり、組織は自社のデータで Super VL のポストトレーニングを行い、自社のインフラに展開し、構築したシステムを自ら管理することができます。

Nemotron 3.5 Bolt:エッジにもたらすエージェント型のインテリジェンス

Bolt 74B-A9B 24GB は、日常的なエージェント型タスクを NVIDIA RTX/ DGX Spark 上でローカルに実行するよう設計されています。ネイティブの 2 ビット量子化により、24 GB のメモリに収まり、ほかのアプリケーションと並行して実行が可能です。

同程度のメモリ使用量のモデルと比較して、インテリジェンスと速度の優れたバランスを実現しています。大半のタスクを完了できるインテリジェンスを備えながら、最も高性能なモデルよりもはるかに高速です。

Bolt 74B-A9B 24GB により、ユーザーは、ウェブ検索から文章作成、コードのデバッグまで、様々な作業を広く利用されているローカルのエージェント ハーネスに任せることができます。これらのワークロードをクラウドに送信する必要はありません。同クラスのオープン モデルの中で、PinchBench では第 1 位、BrowseComp では第 2 位を獲得しています。

Bolt E4B 4GB は、GeForce RTX、Jetson、RTX/ DGX Spark 上で動作するフィジカル エージェントおよび対話型エージェント向けに構築されています。自然な会話とマルチ ターンにわたるエージェント機能を組み合わせ、高速なローカル音声アシスタント、対話型キャラクター、組み込みインターフェイスを実現します。

カスタマイズされた Super のインテリジェンスの採用が拡大

さまざまな業界の数十の組織が、自社のデータ、ツール、ポリシー、ワークフローを用いて Super VL のポストトレーニングを行い、それぞれのエージェント導入の中核となる専門的なタスクで、精度をさらに高めています。

Super VL は、業界を問わず多くの組織でポストトレーニングとカスタマイズが進められています。Scale AI は、Skydance のベンダー向け与信、融資エージェントと、EY の M&A デューデリジェンス (買収前の詳細調査)エージェント向けに、このモデルのポストトレーニングを行いました。AfterQuery は、Hebbia の与信契約分析向けにモデルをカスタマイズしました。AI21 と Alice は、サイバー攻撃に対する耐性を高めるためにモデルのポストトレーニングを行いました。Mercor は、計画の立案、コードの記述とデバッグを行うコーディング エージェント向けに、APEX-SWE コーディング ベンチマークでモデルのポストトレーニングを実施しました。ModelScope は、ms-swift フレームワークを通じて、特化型のマルチモーダル アプリケーション向けにモデルをファインチューニングできる環境を開発者に提供しています。

このほかにも、Ramp が金融文書のインテリジェンス向けに、Dream がソブリン AI を活用したサイバーセキュリティの研究と脆弱性分析向けに、Lila Sciences が科学的発見と検索向けに、R1 が医療保険請求の分析と収益サイクル管理向けに、Nemotron 3.5 Super VL をカスタマイズしています。TrainLoop は、患者の初回処方を AI が作成することについて初めて承認を受けた企業となった Nolla の皮膚科データを用いて、モデルのポストトレーニングを行いました。

Nemotron 3.5 Super VL を統合しているソフトウェア プラットフォーム企業は、以下のとおりです。

  • Atlassian:Jira や Confluence などのアプリケーションを横断するエージェント型検索などのタスクに活用しています。
  • CrowdStrike:企業のセキュリティにおけるエージェント型のブルーチーム活動向けに、モデルをカスタマイズしています。
  • Dassault Systèmes:エンジニアリング設計とシミュレーションを強化しています。
  • Perplexity:Perplexity Search と Computer における検索やエージェント型タスクに活用しています。
  • Salesforce:Missionforce Operations を通じて、安全な顧客環境で複雑な政府業務のワークフローをデジタル化し、自動化する AI エージェントを実現するため、Nemotron をカスタマイズしています。
  • Synopsys:半導体設計検証向けソフトウェアが、このモデルと相互運用します。

Nemotron 3.5 Super VL は実際に何を見ているのか

Nemotron 3.5 Super VL の視覚言語の強みは、光学文字認識、表、グラフ、視覚的な文書内の構造化情報など、エージェントが実際に扱うものに照準を合わせています。

ウェブページを処理してテキストを抽出し、グラフやチャートを読み取り、見つけた内容からインサイトを導き出します。エージェントが日常的に扱う PDF やその他の文書でも同様です。

Nemotron 3.5 Super VL は、画像、ウェブページ、PDF を理解し、その理解に基づいて行動します。テキストと視覚の理解を 1 つのモデルに統合することで、エージェントは別々のシステム間でタスクを振り分ける必要がなくなります。文書からデータへ、そして意思決定へと処理が進んでも、コンテキストが引き継がれます。

オープン性によって制御性、セキュリティ、プライバシーを最大化

オープン性とカスタマイズ性は、互いを強化します。このモデルは、オープン ウェイト、オープンなデータセット、トレーニング レシピとともに提供されます。

制御性には 2 つの側面があります。組織は、セキュリティとデータ所在地の要件に応じた場所でモデルを実行できます。また、プロバイダーの制限を受けるモデルではなく、自ら適応させることができるモデルを選択することができます。

たとえば保険業界では、カスタマイズしたエージェントが、請求に不正の兆候がないか繰り返し確認できます。金融サービスでは、エージェントが信用スコアを審査し、組織独自の融資基準に照らして不審な取引を検出できます。モデルはオンプレミスにとどまり、データのプライバシーも維持されます。

カスタマイズは、NVIDIA NeMo、Python ベースのパイプライン、オープン データセットによって支援されます。

Nemotron 3.5 Super VL は、事前トレーニングと継続事前トレーニングを合わせて約 26 兆トークンでトレーニングされ、その後、約 380 万件のサンプルと、数十の環境にわたる強化学習を用いてポストトレーニングが行われました。

NVIDIA はまた、エージェントによるツールの使用、金融、指示追従、ロング コンテキスト、公平性、視覚言語理解にわたるオープン データセットを Hugging Face で公開するとともに、NeMo Gym の強化学習環境も公開しています。

NVIDIA NIM は、性能が最適化され、検証済みの構成とエンタープライズ グレードのサポートを備えた、本番環境で利用可能なマイクロサービスとしてモデルをパッケージ化します。セキュリティ パッチと性能改善を含む更新が 2 週間ごとに提供されます。

さらに、NVIDIA Dynamo 上でモデルを実行することで、組織はレイテンシを 85% 削減しながら、最大 8 倍のユーザーにサービスを提供できます。

Nemotron 3.5 Super VL は、Hugging Face、Open Router、ModelScope コミュニティ、および NVIDIA NIM として現在利用可能です。

DGX Spark、DGX Station、RTX で動作

Nemotron 3.5 Super VL は、NVIDIA のハードウェア スタック全体で動作します。DGX Spark、DGX Station、RTX PRO、RTX システムではデスクトップでのローカルな知能を実現し、NVIDIA Jetson ではエッジに対応するほか、データセンターやクラウド環境でも動作します。

Nemotron 3.5 Bolt 74B-A9B 24GB は Hugging Face で現在利用可能で、llama.cpp、Ollama、LM Studio、Unsloth、vLLM に対応しています。10 月 16 日に登場する NVIDIA RTX Spark ノート PC 向けに構築されており、GeForce RTX PC、DGX Spark、DGX Station、RTX PRO ワークステーション でも動作します。

オープン ウェイトをダウンロードし、NVIDIA NeMo によるカスタマイズ用リソースをご覧ください。また、アーキテクチャの詳細は技術ブログでご確認いただけます。

NVIDIA ニュースへの登録、コミュニティへの参加、LinkedIn、Instagram、X、Facebook の NVIDIA AI アカウントのフォローを通じて、エージェントや NVIDIA Nemotron などの最新情報をご確認ください。

自分のペースで学べる動画チュートリアルとライブ配信もご覧ください。

ソフトウェア製品情報に関する利用規約をご確認ください。