NVIDIAは、Kubernetesとクラウドネイティブのコミュニティの主要カンファレンスであるKubeCon + CloudNativeConにおいて、オープンソースへの取り組みを深めています。また、自律型エージェントの保護とガバナンスのためのオープンソースのランタイムであるNVIDIA OpenShellを、Cloud Native Computing Foundation(CNCF)に寄贈します。CNCFはLinux Foundationの一部である非営利団体で、KubeConの主催者です。OpenShellはCNCF Sandboxプロジェクトとなり、それを自社製品に組み込む組織によって運営され、世界中のセキュリティ専門家の知見によって強化されます。この寄贈により、コミュニティが自律型エージェントのセキュリティインフラストラクチャを構築、検査、改善できるようになり、開発が加速し、安全対策が強化されます。Kubernetesは、数千のAIファクトリーにまたがるアプリケーションの実行を管理するオープンソースのシステムであり、AIの基盤となっていますが、それに対する要求は増す一方です。
NVIDIAは、Googleが主導するオープンソースのフレームワークで、CNCF Sandboxに受け入れられているAgent Substrateにも貢献しています。Agent Substrateは、Kubernetes上で長時間稼働するエージェントのワークロードを大規模に運用するためのものです。NVIDIAはまた、NVIDIA DSX AI Factory Platformの新コンポーネントとして、NVIDIA Kubernetes Engine、NVIDIA Kubernetes Recipes、およびNVIDIA Snapshotを発表しました。これらはAIファクトリー向けに、Kubernetes上でGPUインフラストラクチャをデプロイ、管理、スケールするチームを支援するためのツールです。
OpenShellは、組織がAIエージェントにできることを制御できるようにします。エージェントの活動に対して決定論的な制御(deterministic controls)を適用するため、チームはエージェントがツールを使う、推論サービスにアクセスする、あるいはワークロードを実行する際にポリシーを適用できます。
NVIDIAは、OpenShellの寄贈、Agent Substrateへの貢献、NVIDIA DSX AI Factory Platformの新コンポーネントを合わせて、KubernetesをAIワークロードを大規模に扱う主要な基盤にし、開発者がより安全で効率的なAIインフラストラクチャを構築できるようにするための前進と位置づけています。Linux FoundationのCEOであるJim Zemlinは、クラウドネイティブのコミュニティには、エージェントが動作する安全な環境を提供するという新たなインフラ課題があり、NVIDIAによるOpenShellのCNCFへの寄贈は、開発者に共通の基盤と、エージェントセキュリティの進化を形作る機会を与えると述べています。Jim Zemlinはまた、この取り組みをコミュニティに持ち込むことで、次世代のクラウドネイティブアプリケーションにとって重要になるインフラについて、より広い協業が可能になると述べています。
Google連携と拡張性、大規模運用
NVIDIAとGoogleは、OpenShellとAgent Substrateの統合においても協力しています。この統合は、企業がクラウドとオンプレミスのシステムをまたいでエージェントを保護し、ガバナンスを適用できるようにすることを目指しています。
OpenShellは拡張可能なアーキテクチャを持っており、チームは独自のコンピュート、推論プロバイダー、認証情報ストレージ、監視ツールを接続できます。これにより、組織は異なるデプロイ環境にまたがってガバナンスを適用しつつ、OpenShellを既存のエンタープライズシステムと統合できます。すでにOpenShellは数百の組織に利用されており、公開から1年足らずの間に数万件のコントリビューションを受けています。
AIエージェントの統制は課題の一部にすぎず、組織はエージェントを大規模にデプロイする必要もあります。NVIDIAのAgent Substrateへの取り組みにより、Kubernetes上でエージェントの実行、推論サービング、およびリソーススケジューリングをまとめて扱うことが可能になります。また、NVIDIAはモデル推論用のNVIDIA Dynamoと、共有クラスターのリソース割り当て用のKAI SchedulerでAgent Substrateが動作するようにしています。Agent Substrateは、タスク間でエージェントの環境を保持し、エージェントがアイドル状態のときはコンピュートを解放します。共有されたエージェントのプール全体でエージェント環境を一時停止・再開することで、チームはセッションごとに専用コンピュートを動かし続けなくても、エージェントのワークロードをスケールできます。
NVIDIA Snapshotは、追加の推論キャパシティを素早くオンラインにするという課題に対応するものであり、モデルのロードやワークロードのウォームアップがスケーリングや復旧を遅らせる問題に対処します。
NVKEとNVKRの提供と対応パートナー
AIファクトリーは、顧客にマネージドKubernetesサービスを提供しつつ、インフラ、ソフトウェア、顧客体験の管理を保持する必要があります。NVIDIA DSX AI Factory Platformを拡張する3つの新しいオープンソースプロジェクトは、Kubernetesを運用しやすくし、推論のスケールを速くするためのものです。
NVIDIA Kubernetes Engine(NVKE)とNVIDIA Kubernetes Recipes(NVKR)は、パブリックプレビューとして提供中の、GPUインフラストラクチャ上でマネージドKubernetesサービスを提供するためのオープンソースの構成要素です。NVKEとNVKRは、クラスターのライフサイクル管理を自動化し、署名済みでバージョン固定のイメージを提供します。
NVKEとNVKRは、AIインフラストラクチャのプラットフォームやクラウドサービスへ展開を広げるエコシステムの支援とともに公開されます。Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster、そしてFirmusとSK Telecomは、NVKEとNVKRの機能を自社の提供サービスに取り込む統合計画でNVIDIAと足並みをそろえました。
NVIDIA Snapshotの仕組みと評価結果
NVIDIA Snapshotは、追加の推論キャパシティを素早くオンラインにする課題に対処するオープンソースのモジュール式コンポーネントです。チェックポイントされたレプリカを、モデルの再ロードやウォームアップなしに数秒で復元します。Kubernetes上の推論とエージェント型ワークロードについて、より速い起動、復旧、伸縮性を支援します。デザインパートナーであるCrusoeとSaturn Cloudは、NVIDIA HGX B300システムを使用し、自社のワークロードでNVIDIA Snapshotを評価しました。SnapshotのアップストリームコントリビューターであるCrusoeは、Crusoe CloudにおいてGLM-5.3を試験し、ワークロードが準備完了になるまでの時間を約8分から31秒に短縮しました。トークンファクトリープラットフォームであるSaturn Cloudは、ゼロからのスケールを行う推論においてSnapshotのベンチマークを行い、vLLMの起動時間を2分〜8.5分から6秒〜34秒に短縮しました。