AWSとNVIDIAは、16年にわたる協業の大幅な拡大を発表しました。この発表には、追加で200万基のNVIDIA GPUを導入する計画や、Vera CPUベースのインフラをAWSに導入する取り組みが含まれます。NVIDIAのハイパースケール・HPC担当バイスプレジデントであるIan Buckは、シアトルにおいて、AWS初のNVIDIA Vera CPUサーバーとVera Rubin GPUを手渡ししました。Buckは、シアトルのSpheresの前を通ってこれらの機器を運び、Amazon EC2担当バイスプレジデントのWillem Visserに引き渡しました。Amazon EC2ハードウェアエンジニアリング担当バイスプレジデントのSupreeth Sheshardiも同席し、VeraとVera RubinがAWSの顧客にもたらすものの詳細について話し合いました。

NVIDIAのハイパースケール・HPC担当バイスプレジデントであるIan Buckは、エージェント型AIがAIファクトリーに新たなCPUの時代をもたらしていると述べています。

エージェント型AIがCPUに求める負荷

Ian Buckは、エージェント型AI(agentic AI)がAIファクトリーに新たなCPUの時代をもたらしていると述べています。モデルが回答から行動へ移るなか、Veraは、その作業を大規模に動かし続けるために専用設計されています。ここでの大きな考えは、「10倍速く働けるとしたら、あなたのコンピューターはついていけるか」という問いです。エージェント型AIは、スライド作成、ソフトウェアのコンパイルとテスト、データ分析、ファイル検索、シミュレーションの実行など、人がさまざまな作業に使うインフラへの要求をこれまで以上に高めています。エージェント型AIのサンドボックス、ツール呼び出し、オーケストレーション、長いコンテキスト検索といった、並行して発生するリアルタイムのタスクの連続は、コア密度を重視する従来型のCPU設計が優先するよう作られてこなかった形でCPUに負荷をかけます。

AIエージェントはGPUだけでは動かず、エージェントのサンドボックス、ツール呼び出し、オーケストレーション層、長いコンテキストの検索処理はすべてCPUの作業です。Veraは、この現実を出発点として設計された新しいクラスのCPUです。

Veraの仕様とAWSへの提供

Veraは、NVIDIAが設計した88基のカスタムOlympusコアと1.2TB/sのメモリ帯域幅を備えています。Veraはエージェント型AIワークロードにおいて、コアあたり最大1.8倍高速な性能を実現します。常時負荷の下で作業がより速く完了することで、AIファクトリー全体の効率が高まり、ユーザーはより速い応答で作業を終えることができます。NVIDIA VeraはAWSへ提供されます。

NVIDIAのIan Buckは、シアトルのAWS本社において、Willem VisserとSupreeth Sheshadriに、AWSにとって初のVera CPUサーバーとVera Rubin GPUを直接手渡ししました。

各社へのVera CPUの引き渡し

NVIDIA Veraは、エージェント型AI(agentic AI)の時代のために専用設計されたNVIDIA初のカスタムCPUです。Ian Buckは、これまでパートナーであるAnthropic、OpenAI、SpaceXAI、およびOracle Cloud Infrastructure(OCI)にVera CPUを直接手渡してきました。AWSは、AIエコシステムを巡るVeraの急速な旅の最新の立ち寄り先です。これ以前にBuckは、Oracle Cloud Infrastructure(OCI)と、3つの主要AIラボであるAnthropic、OpenAI、SpaceXAIにVera CPUシステムを届けました。

OracleのAI Customer Excellence Centerでは、OCIのチームが、開梱されたVera CPUシステムを見学しました。このセンターは、Oracleの顧客がさまざまなAIワークロードを試しに来る場所です。見学には、製品管理全体を率いるKaran Battaと、最高顧客・パートナーサクセス責任者のGary Millerが含まれていました。見学中、背景ではNVIDIAのGPUラックが世界中のOCI顧客のワークロードを処理していました。

NVIDIAのハイパースケール・HPC担当バイスプレジデントであるIan Buck氏は、AIモデルに質問が与えられたとき、答えが事前に用意されていることは多くなく、モデルは正解に至るためにPythonコードを生成しなければならないと説明しています。NVIDIA Vera CPUはこの種のタスクを得意としており、Buck氏はこれがCPU需要が急増している理由であると述べています。

SpaceXAIは、強化学習(reinforcement learning)ワークロードと、同社の訓練スタックを動かすエージェントベースのシミュレーションパイプラインについてVera CPUを評価しています。

Buckが述べたCPU需要の急増は、OCIのチームも目にしていた傾向でした。Battaによれば、エージェント型AI(agentic AI)が大規模で持続的な性能を求めるため、OCIは2026年から数十万基のNVIDIA Vera CPUを導入する計画です。Veraのアーキテクチャは高スループットの推論(reasoning)ワークロード向けに専用設計されており、Battaによれば、VeraはOCIが次世代のエンタープライズAIを動かすために必要とする効率、密度、設置面積(footprint)を提供します。OCIは、Veraをハイパースケールで導入する最初のクラウドプロバイダーです。これはエンタープライズ顧客にとって、本番グレードのエージェント型AI(agentic AI)インフラを意味します。Millerによれば、OCIのチームはVeraを早く稼働させたいと考えており、顧客がエージェント型AIやワークロードをカスタマイズし検証するためのシステムがもう一つ加わります。Millerは、ここを訪れる人々の反応を楽しみにしており、Veraを最大限に活かすために協力していきたいと述べました。

OpenAIのMission Bay本社では、NVIDIA Vera CPUサーバーの引き渡しが、メインオフィス脇の屋外バルコニーで行われました。OpenAIのコンピュートインフラ責任者であるSachin Kattiは、サーバーを持ち込んだBuckに感謝を述べました。BuckはVeraの機能を説明し、途中でポケットからドライバーを取り出してシステムのふたを外し、内部を見せました。

Vera Rubin NVL72での役割

Vera CPUは単体のCPUシステムを動かすほか、Vera Rubin NVL72ではホストプロセッサとして機能します。Vera Rubin NVL72のシステムにおいて、Veraは第2世代のNVIDIA NVLink-C2Cを通じて2基のRubin GPUとペアになります。Anthropicのコンピュート責任者であるJames Bradburyは、コンピュートのスケーリングはモデルの成長にとって重要な加速要因であると述べています。また、エージェント型ワークロードを解決するうえで、Veraがエコシステムの有望な一部として登場してきたことに期待しています。NVIDIAのVera CPUは、NVIDIA Rubin GPU、BlueField-4 DPU、Spectrum-X、MGXラックアーキテクチャとともに、NVIDIAの徹底した協調設計(extreme codesign)の一部です。

Vera Rubin NVL72のシステムでは、VeraとRubinは統合メモリアーキテクチャ(unified memory architecture)を共有し、アクセラレータによる計算を高い稼働率に保ちます。Veraの高速なCPUコアとインターコネクトは、GPUへの供給に必要なオーケストレーション、制御、およびデータ移動を担います。これらは従来のインフラの2倍のエネルギー効率で行われます。