NVIDIAは、1,200億パラメータのオープンモデルであるNemotron 3.5 Super VLを公開しました。専用の常時稼働エージェント向けに、最速のタスク完了と最高の精度を提供します。Super VLとBoltは、8月に公開された高スループットのワークロードを担当するLightningや、最も難しい推論タスクを担当するUltraとともに、Nemotronファミリーに加わります。
今回公開されたSuper VLと2つのBoltモデル(Bolt 74B-A9B 24GB、Bolt E4B 4GB)の3つのオープンモデルは、あわせて、大規模企業サーバーからエッジデバイス・ローカルハードウェアまでの、エージェント展開の全範囲をカバーします。NVIDIAのインフラストラクチャ上でエージェントを動かしたい組織は、能力とデプロイしやすさのどちらかを選ぶ必要なく、それぞれのティア向けに最適化されたオープンモデルを利用できるようになりました。
オープンモデルを使う利点と活用例
オープンなモデルでは、組織はセキュリティやデータレジデンシーの要件が求める場所でモデルを実行でき、プロバイダーの制限を受けるモデルではなく、自社で適応できるモデルを採用することも選べます。たとえば保険分野では、カスタマイズしたエージェントが請求を繰り返しスキャンして不正の兆候を探せます。金融サービスの例では、エージェントがクレジットスコアを確認し、組織独自の融資基準に照らして活動にフラグを立てられます。モデルはオンプレミスにとどまり、データは非公開のまま保たれます。
エッジ向けBoltモデルの特長
NVIDIAのNemotronファミリーに、エッジへ知能をもたらすBoltが加わります。Nemotron 3.5 Bolt 74B-A9B 24GBは、ローカルのエージェント型ワークロード向けに、GBあたりの知能と速度のバランスを取るよう最適化された新しいエッジ向けモデルです。また、Nemotron 3.5 Bolt E4B 4GBは、高速な会話型エージェント向けに、GBあたりの知能を重視して最適化されている新しいエッジ向けモデルです。Super VLとBolt 74B-A9Bはすでに利用できますが、Bolt E4Bの提供は10月23日の予定です。Bolt 74B-A9B 24GBは、NVIDIA RTX/DGX Spark上で日常的なエージェント型タスクをローカルで実行するよう設計されており、ネイティブの2ビット量子化によって24GBのメモリに収まり、他のアプリケーションと並行して動作します。同程度のメモリ使用量の他モデルと比べて知能と速度のバランスがよく、ほとんどの作業をこなせる賢さを持ちながら、最も賢いモデルよりもはるかに高速です。Bolt 74B-A9B 24GBを使えば、Web調査から執筆、コードのデバッグまで、作業をクラウドに送らずに一般的なローカルのエージェントハーネスに任せられます。PinchBenchでは同クラスのオープンモデルで1位、BrowseCompではオープンモデルで2位です。Bolt E4B 4GBは、GeForce RTX、Jetson、RTX/DGX Spark上の物理エージェントや会話エージェント向けに作られており、自然な会話と複数ターンのエージェント機能を組み合わせて、高速なローカル音声アシスタント、対話型キャラクター、組み込みインターフェースを支えます。
Super VLの学習方法と性能
Nemotron 3.5 Super VLは、事前学習(pretraining)と継続事前学習(continued pretraining)において約26兆トークンを用いて学習されました。その後、約380万サンプルと、数十の環境にわたる強化学習(reinforcement learning)によってポストトレーニング(post-train)されています。Nemotron 3.5 Super VLは画像・Webページ・PDFを理解し、その理解に基づいて行動します。テキストと視覚の理解を1つのモデルに統合しているため、エージェントは別々のシステム間でタスクを振り分ける必要がなく、作業が文書からデータ、判断へ進んでもコンテキストが引き継がれます。同クラスで最速のオープンなエージェント型モデルであり、次点のモデルより5倍高速で、数日から数週間にわたるワークフローで企業のエージェントが大量のタスクをより速く完了できるよう支援します。
Super VLを活用する企業の事例
数十の組織が、業界を問わず、Super VLを自社のデータやツール、ポリシー、ワークフローでポストトレーニングし、エージェント展開を特徴づける専門的なタスクでの精度を高めています。Scale AIは、SkydanceのベンダークレジットファイナンスエージェントとEYのM&Aデューデリジェンスエージェント向けに、Super VLをポストトレーニングしました。AfterQueryは、Hebbiaのクレジット契約書(credit agreement)分析向けにSuper VLをカスタマイズしました。AI21とAliceは、サイバーセキュリティの攻撃耐性(attack resilience)向けにSuper VLをポストトレーニングしています。
Mercorは、コードを計画・記述・デバッグするコーディングエージェント向けに、APEX-SWE coding benchmarkを用いてSuper VLをポストトレーニングしました。ModelScopeは、ms-swiftフレームワークを通じて、開発者が専門的なマルチモーダルアプリケーション向けにSuper VLをファインチューニングできるようにしています。TrainLoopは、Nollaの皮膚科データを用いてNemotron 3.5 Super VLをポストトレーニングしました。Nollaは、AIが患者への最初の処方を書くことについて承認を受けた最初の企業になったばかりです。Nemotron 3.5 Super VLをカスタマイズしている追加の組織には、金融文書インテリジェンス向けのRamp、ソブリンAIを活用したサイバーセキュリティ研究および脆弱性分析向けのDream、科学的発見および検索向けのLila Sciences、そして医療請求分析および収益サイクル管理向けのR1があります。
Nemotron 3.5 Super VLを統合しているソフトウェアプラットフォーム企業の一つであるAtlassianは、JiraやConfluenceなどのアプリ横断のエージェント型検索(agentic search)といったタスクに利用しています。Salesforceは、Missionforce Operationsを通じて、セキュアな顧客環境で複雑な政府のワークフローをデジタル化・自動化するAIエージェントを動かすために、Nemotronをカスタマイズしています。
提供先とカスタマイズの方法
Nemotron 3.5 Super VLは、Hugging Face、Open Router、ModelScopeコミュニティ、およびNVIDIA NIMで現在利用可能です。このモデルはNVIDIAのハードウェア全体で動作します。デスクトップのローカルインテリジェンス向けにはDGX Spark、DGX Station、RTX PRO、RTXシステムが使用でき、エッジではNVIDIA Jetson、さらにデータセンターとクラウド環境でも動作します。Nemotron 3.5 Bolt 74B-A9B 24GBは、Hugging Faceで現在入手可能であり、llama.cpp、Ollama、LM Studio、Unsloth、およびvLLMに対応しています。
モデルのカスタマイズは、NVIDIA NeMo、Pythonベースのパイプライン、およびオープンデータセットで行うことが可能です。クローズドなフロンティアモデルと異なり、組織はSuper VLを自社データでポストトレーニングし、自社のインフラにデプロイし、構築したものを管理できます。モデルは、オープンな重み、オープンデータセット、学習レシピとともに提供されます。
NVIDIAは、Hugging Faceにおいて、エージェント的なツール利用、金融、指示追従、長いコンテキスト、公平性、および視覚言語理解にわたるオープンデータセット(open datasets)を公開しています。また、NeMo Gymでは強化学習環境も公開されています。
NVIDIA NIMは、モデルを本番利用可能なマイクロサービスとしてパッケージ化します。性能最適化・検証済みの構成とエンタープライズ級のサポートが備わっており、セキュリティパッチと性能改善によって2週間ごとに更新されます。NVIDIA Dynamo上でモデルを動かすと、組織は最大8倍のユーザーに、85%低いレイテンシーで対応できます。