企業は、新しいツールで拡張されたオープンソースのNVIDIA Agent Toolkitを使っています。企業はこのツールキットで、エージェントのカスタマイズと制御を行い、社内データに基づいて回答や行動を行わせ、エージェントの動作を監視し、運用の統制を行っています。エージェントの有用性は、そのエージェントが知っていることによって決まり、信頼性は、エージェントが動作する境界によって決まります。

NVIDIA Agent Toolkitは、NVIDIA CUDA-Xライブラリを備えた新しいNVIDIA Agent Knowledge Foundation、Nemotron Retrieverと新しいKumoファミリーなどのNVIDIAオープンモデル、NVIDIA OpenShellセキュアエージェントランタイム、NVIDIA NemoClawセキュアエージェントブループリント、そしてNeMo RelayやNeMo Compassといったツールとスキルで構成されます。NVIDIA Agent Knowledge Foundationは、すでに企業で稼働しています。NVIDIA Agent Knowledge Foundationは、企業がデータをエージェントの使える社内インテリジェンスに変えるのを助けます。開発から展開まで信頼できる、実作業をこなすエージェントを作るには、モデル、ハーネス、ランタイム、データ、ツールをまとめたオープンなエージェントスタックが必要です。

エージェントは関連情報を見つけ、それが事業にとって何を意味するかを理解し、予測を行うことができます。さらに、人間が次に何をすべきか判断するのを支援できます。企業は、データの移動や既存ワークフローの作り直し、ガバナンス制御の変更を行うことなく、NVIDIA Agent Knowledge Foundationを使えます。

同梱のライブラリとモデル

NVIDIA Agent Knowledge Foundationには、cuDF、cuGraph、cuML、cuOpt、cuVSなどのNVIDIA CUDA-Xライブラリと、新しいAuto-Ontologyライブラリが含まれます。Auto-Ontologyライブラリは、生の社内データを顧客・製品・注文といった身近なビジネス概念に変換し、それらの概念どうしの関係を対応づけます。

NVIDIA Nemotron RetrieverとKumo Structuredオープンモデル（Kumo Tabular、Kumo Relational、Kumo Time Series、Kumo Forecast）も含まれます。これらのオープンモデルは、エージェントが質問に答え予測を行うために関連する社内情報を見つけるのを助けます。

NemoClawとOpenShellの役割

NVIDIA NemoClawブループリントは、セキュアな特化型エージェントを構築するためのリファレンス設計を提供します。最新のNemoClawブループリント（エージェント最適化向け）は、エージェントの知能を改善し、時間とともに仕事が上達するようにするための、段階的な出発点となります。OpenShellは、エージェントがアクセスできるものと実行できることを企業が制御できる、セキュアなランタイム境界を提供します。

Palantirなどパートナー企業の活用状況

Palantirと組んで、NVIDIAのサプライチェーン部門は、Palantir Foundry、Ontology、AIPを通じてNVIDIA Agent Knowledge Foundationを使い、特化型エージェントの展開、独自データからの実用的なインテリジェンスの作成、結果の予測、意思決定の最適化を行っています。また、Amazon Web Services (AWS)、ClickHouse、Cloudera、Cohesity、Dassault Systèmes、Dell、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst、VAST Dataも、NVIDIA Agent Knowledge Foundationを基盤に構築を進めている企業に含まれます。

Databricksは、NVIDIA Kumo AnomalyとDatabricks Genie Ontologyを組み合わせて、文脈を理解するエージェントを動かしています。Snowflakeは、顧客がSnowflake Notebook環境でNVIDIA Kumo EngineとKumo Relationalオープンモデルを使い、より多くの予測機能を引き出せるようにしています。

NVIDIA Nemotron Retrieverモデルは検索をより速く、より正確にします。Amazon OpenSearch Serviceは、Nemotron Retrieverの埋め込みモデルを使い、検索ステップを減らしながら関連性を改善しました。追加のレイテンシはほぼありませんでした。SAPがファインチューニング(fine-tuned)したNemotron Retrieverのリランカー(reranker)は、ほぼ3倍速く動作しました。Zoomは、Zoom AI Servicesの文書理解、検索の関連性、コンテキスト取得を改善するために、Nemotron Retrieverモデルを使っています。

GTC Berlinのセッションでは、特化型エージェントを本番環境で構築、デプロイ、最適化する方法を扱います。参加すると、詳しく知ることができます。