OpenAIのモデルは、AIを動かすチップを急速に改善しています。OpenAIは8月に、同社のエンジニアがフロンティアモデルを使用して、同社初のカスタム推論チップであるJalapeñoの開発を加速させたことを共有しました。

OpenAIは、Jalapeñoの成果の背後にある専門家レベルの設計改善を詳しく説明するとともに、同じアプローチをAMDとの協業でサードパーティ製ハードウェアに適用し、大きな成果を上げていることを紹介しています。モデルのエンドツーエンドのチップ設計タスクにおける能力を測るため、OpenAIは2つのオープンソースのプロセッサ設計において、世代の異なるモデルを順に評価しました。

能力開発を信頼できる評価者(trusted evaluators)に基づかせるため、OpenAIはSynopsysと協力しています。この取り組みは、エンジニアがチップの設計と検証にすでに使っている電子設計自動化(EDA)ツールに、フロンティアの知能を統合するものです。

Jalapeñoの設計で得られた改善

OpenAIは、2025年初めにGPT-4oを使ってカスタム推論チップJalapeñoの設計を支援し始めました。その初期のモデルでも、PPAの自明ではない改善を見つけました。並列計算タスクを管理・実行するベクトルユニット(vector unit)では、浮動小数点の加算器と乗算器、変換関数、リダクションロジック、特殊関数ユニットで削減が得られました。モデル群は、別のロジック実装と、計算をパイプラインステージにどう分割するかの両方を探り、ハードウェアを共有して中間ストレージを減らす機会を見つけました。

演算コンポーネントである行列ユニット(matrix unit)では、浮動小数点の加算器、乗算器、低精度のドット積回路にわたって改善が積み重なりました。乗算器の再設計の1件では、合成時のセル面積が約15%減り、レイテンシが2クロックサイクルから1クロックサイクルに短縮されました。別の加算器の再設計では、2サイクルのレイテンシを維持したまま、セル面積が約15%減少しました。ドット積ロジックとパイプライン構成のさらなる改善も、ブロック全体で追加の削減に寄与しました。

Jalapeñoの設計全体を通じて、チームはモデルが提案した変更によってスタンダードセル面積がベクトルユニットで約13%、行列ユニットで約10%減少したと見積もっています。モデルが提案したこれらの面積削減の最適化は、Jalapeñoのシリコン立ち上げ(silicon bring-up)の際にシリコンで実証されました。

AMDとの協業で確認したPPA改善

PPAの改善ではAMDと提携しており、フラッグシップGPU IPで、高度に最適化されたベースラインに対して最大14%の改善を確認しました。モデルは、チップの回路を記述するコードであるSystemVerilog RTLを書き換えることで、さらなる改善を見つけました。OpenAIは、これを約1年分の進歩を5か月未満で達成した、チップ設計の最前線における前例のない結果だと述べています。AMDは、フラッグシップGPU IPで見つかったRTLの変更の一部を、製造に回した最近の設計にすでに取り入れています。他の変更は、将来のバージョンで使うために量産向け設計(production design)のファイルに追加しています。

AMDは、OpenAIのモデルが書いた設計を使って、次世代フラッグシップCPUの主要ブロックでPPAが1桁パーセント改善することも検証しました。OpenAIは今後、最も最適化されたベースラインに対して、GPUとCPUの両方でさらなるPPAの改善を見込んでいます。

GPT-Synopsysの訓練とRTL検証

OpenAIは、信頼できる評価者に基づいてモデル開発を進め、扱う設計課題を広げるため、Synopsysと提携し、熟練したチップ設計者と同じようにSynopsysのEDAツールを使えるよう新しいモデルGPT-Synopsysを訓練しています。OpenAIは、自社のモデルが専門家レベルのマイクロアーキテクトの水準でRTLについて推論するのを観察しています。モデルは、計算、制御操作、またはデータ移動を行う回路を書き換えることができます。

OpenAIのモデルはSynopsysのツールを使って、各書き換えがブロックの動作を保っていることを検証し、電力・性能・面積のトレードオフを評価しました。

RISC-Vコアによるモデル世代別の評価

OpenAIは、チップ設計能力がモデル世代ごとにどう進歩したかを測るため、各モデルを2つのオープンソースの32-bit RISC-Vコアで試験しました。PicoRV32は、FPGAと呼ばれる再プログラム可能なチップ向けに設計された小型のコアです。OpenTitanは、セキュリティチップの組み込みプロセッサとしてIbexを使っています。PicoRV32とIbexは、それぞれ組み込み・マイクロコントローラ級のワークロード向けの完全なプロセッサコアです。JalapeñoとAMDのチップでの結果は、モデルが製品の設計に改善を加えられることを示しています。

1つ目のタスクでは、各モデルに各コアの元のハードウェア記述を与え、スループット(コアが1秒間に実行できる命令の数)を上げるよう求めました。OpenAIは、各設計の出力をシミュレーションで確認しました。チェックに失敗した設計、または元のコアの16倍を超える面積を使った設計は、スコアが0になりました。OpenAIは、チェックに通った設計について、モデルには見せていないワークロードを用いて、クロックサイクルあたりの命令数を測定しました。スループットは、これらのワークロードにわたる幾何平均に、Yosysで見積もった最大クロック周波数を掛けて求め、1秒あたりの命令数の推定値としました。各コアについて、同じ制約のもとで観測された最良のスループットをスコア1.0としました。グラフは、スコアが0になった実行を含む、複数回の実行の平均スコアを示しています。

2つ目のタスクでは、各モデルに文書化された要件(written requirements)と、コアがシステムの他の部分にどう接続するかを示すオープンソースコード由来のテンプレートを与えました。モデルは、コア内でのデータの流れ方と、作業をどうステージに分けるかを選びました。仕様からコアを設計するタスクでは、各コアについて、RTL最適化タスクと同じ正しさのチェック、メモリとキャッシュの設定、スループット目標を維持しました。全体の評価には、両タスク、両コア、すべてのトークン予算にわたる9,881件の採点済みの実行が含まれました。

PicoRV32とIbexでの評価結果

既存のPicoRV32コアでは、より大きな同程度の予算において、GPT‑6.2 Astraの平均スコアが最も高いです。112,000トークン前後では、そのスコアはGPT‑6 Astraの約2倍になります。PicoRV32の仕様から設計を始めた場合、GPT-6.2 Astraは約112,000トークン付近で平均スコアが0.7を超え、次に観測された2つの予算ではさらに高いスコアになります。

既存のIbexコアの改善タスクにおいて、GPT-6.2 Astraの平均スコアは、到達するより高い予算の範囲で上がり続けます。Ibexで仕様から設計した場合、GPT-6.2 Astraは112,000トークン付近で平均約0.75であり、そのカーブは、共通するより大きな予算でも他のモデルより上にとどまります。GPT-6.2 Astraは、既存設計の改善から文書化された要件に基づく設計への変更において、PicoRV32よりもIbexで大きく伸びました。

既存の設計を改善するタスクでは、1回あたり約112,000トークンという同程度の予算で、GPT-6.2 Astraが両方のコアで最も高い平均スコアでした。GPT-6.1 Solも、両方のコアでGPT-5.6 Solを上回るスコアでした。既存のIbexコアでは、GPT-6 AstraとGPT-6.1 Solのスコアは比較的近くなっています。

約112,000トークンの条件では、5モデルすべてが、既存設計の改善よりも、文書化された要件から設計した方が高いスコアを出しました。これはPicoRV32とIbexの両方で当てはまりました。文書化された要件から設計を始めると、モデルは元のコアにある性能カウンタや追加命令などの機能を省く余地が生まれます。これらの機能は、テストのワークロードでのスループット向上にはほとんど寄与しない可能性があり、スコア上の優位の一部を説明するかもしれません。

性能カウンタや追加命令といった特定の機能を必須とし、回路面積により厳しい上限を設け、物理合成の後にタイミングを確認するようにすれば、テストは量産向けのチップ設計をより代表するものになります。