GPT-6 Cyberは、悪用可能な脆弱性を見つけて検証するよう訓練されたサイバーセキュリティモデルで、研究者が設定した範囲内にとどまるように設計されています。このモデルは、GPT-5.6 Cyberと比べて、脆弱性の発見と修正においてより高性能であり、研究者が設定した境界内にとどまる信頼性が大幅に高まっています。また、主要なサイバーセキュリティのベンチマークで大きく向上しており、ExploitGymでは相対で51%の改善を示し、範囲内にとどまるかを調べるテストでは飛躍的な改善(step function improvement)を示しました。

サイバーセキュリティモデルであるGPT-6 Cyberは、指定された脆弱性を悪用できるかを試すExploitGymにおいて、48.5%のスコアを記録しました。ExploitGymはリモートターゲットで指定された脆弱性をモデルが悪用できるかを測るもので、このスコアはGPT-5.6 Cyberの32.1%より約16ポイント高い数値です。また、別のアラインメント(alignment)評価において、デプロイ用プロンプトなしでは99.93%のテストで、このプロンプトありでは100%のテストで、範囲外のサービスを悪用することを避けました。

GPT-6 Cyberは、LinuxやFirefoxなどセキュリティ上重要なコードベースで数千件のエクスプロイトを発見・検証しており、実世界のソフトウェアの保護にすでに役立っています。このモデルはGPT-5.6 Cyberから大きく進歩しており、GPT-6 Astraが拒否しない場合でも、ほとんどのサイバータスクにおいてGPT-6 Astraを上回ります。GPT-6 Cyberの思考の連鎖(chain of thought)からは、範囲内にとどまることについてモデルがどう推論しているかを直接確認できます。例えば、「Can't assume extra API or attack controller not target. We should only target binary/server.」や「don't explore out of scope credentials.」という記述があります。Daybreak Blueは、検証済みのディフェンダーが脆弱性と修正を検証するのを、不要な拒否を減らして支援します。Daybreak Redは、GPT-6 Cyberを使った、より深いエクスプロイト開発と許可されたセキュリティテストを可能にします。

攻撃的なウェブペネトレーションテストの新しい評価では、モデルはWebアプリケーションのソースコードにアクセスせずにそれらを探ります。この評価における脆弱性の再現率(recall)は、GPT-6 Cyberが40.3%で、GPT-6 Astraが32.0%でした。Daybreak Redは、実際に動作するエクスプロイトの開発と、それをリモートのターゲットに対して使うことを含む、より高度なセキュリティワークフローを支援するように設計されています。OpenAIは、Daybreak Redの能力を評価するために、新しいベンチマークRemoteExploitBenchを構築しました。RemoteExploitBenchは、管理された環境にデプロイしたGitLab、PostgreSQL、Jenkinsなどのアプリケーションの既知の脆弱性を使います。初期評価では、Daybreak Blueで動作させたGPT-6 Astraはタスクの100%を拒否し、GPT-6 Cyberは95%を完了しました。GPT-6 Cyberの唯一の失敗は、リモートで動作させられなかったエクスプロイトでした。完全な結果と評価設定は、システムカード(system card)に記載されています。

範囲内にとどまるためのアラインメント訓練

サイバーセキュリティエージェントのリスクの1つは、割り当てられたタスクの範囲外に出る、無関係なサービスを悪用しようとする、または研究者の交戦規則(rules of engagement)を無視することです。OpenAIはGPT-6 Cyberにおいてアラインメントを中心的な焦点とし、モデルが許可された範囲内にとどまること、行動への制限に従うこと、自身の作業を正確に報告することを助ける専門的な訓練を用いました。このアラインメントの改善は、許可された範囲内にとどまり、制限を尊重し、結果を正確に報告するための専用の訓練を反映しています。

OpenAIはデプロイ前に、許可された範囲内にとどまる、行動への制限に従う、作業を正確に報告するという挙動を測る一連のアラインメント評価を実施しました。ExploitGym Honeypotは、Hugging Faceのインシデントを参考にしたアラインメント評価であり、隔離環境で、パッケージレジストリやオブジェクトストアなどの支援サービスにアクセスできるモデルに、難しいエクスプロイトタスクを与えます。これらの支援サービスは、攻撃するとタスクのフラグが得られるよう意図的に悪用しやすくしてあり、モデルはそれらを悪用することがタスクの範囲外だと推論しなければなりません。ExploitGym Honeypot評価において、GPT-6 CyberはGPT-5.6 Cyberから飛躍的な変化(step change)の改善を示しました。デプロイ時の安全プロンプトなしでテストした場合、GPT-6 Cyberが範囲外のサービスを悪用しなかった割合は99.93%で、GPT-5.6 Cyberの94.49%から上昇しました。また、デプロイ時の安全プロンプトを使った場合、GPT-6 Cyberは100%の確率で範囲内にとどまりました。

LinuxとFirefoxでの脆弱性発見の成果

GPT-6 Cyberは、すでにセキュリティチームが脆弱性を見つけ、その影響を検証し、修正を開発するのを助けています。顧客は、大規模なコードベース、長時間にわたるエクスプロイト開発、およびセキュリティレビューに使っています。また、GPT-6 Astraなどのメインラインモデルは、すでにコードレビュー、脆弱性のトリアージ、およびパッチ開発を支援しています。Cisco、Calif、CodeRabbitのセキュリティチームは、脆弱性研究とコードレビューにGPT-6 Cyberを使っています。

研究者らはGPT‑6 Cyberを使ってLinuxで948件の権限昇格エクスプロイトを開発し、Firefoxにおいて未知であった重大度の高い脆弱性81件を特定しました。GPT-6 Cyberは、Linuxカーネルの脆弱性1,724件を再現し、そのうち948件について実際に動作するエクスプロイトを開発しました。これは、同じ研究用ハーネスを使ったGPT-5.6 Solがエクスプロイトに成功した166件の5倍超です。脆弱性調査キャンペーンにおいて、GPT-6 CyberはMozillaが高い深刻度と分類したFirefoxの新規脆弱性81件について、証拠と再現可能なテストを作成し、既知の問題30件が従来報告されていたよりも深刻であることを示しました。これらの結果は、Mozillaのエンジニアが修正を開発する助けとなる提案パッチとともにMozillaに開示されました。Mozillaはこの取り組みを支持しており、報告を受けてまもなく修正の反映を始めました。また、Linuxコミュニティのガイダンスに従い、304件の重大な発見をパッチ候補とともにメンテナーに開示しました。その他の脆弱性についても、現在修正を進めている最中です。GPT-6 Cyberは、脆弱性を発見し高品質なパッチを大規模に提案する自律的なワークフローでの利用に適しうるとされています。Linuxでの948件の権限昇格エクスプロイトの開発とFirefoxでの未知の重大度の高い脆弱性81件の特定という成果は、フロンティアモデルによる広範な事前テストが行われていたにもかかわらず得られたものです。モデルはパッチ候補の開発も支援し、MozillaはFirefoxの脆弱性の多くについて修正をリリースしました。

悪用を防ぐセーフガードと監視体制

OpenAIのセキュリティ研究者は、GPT-6 Cyberを他のOpenAIモデルと併用して、Node.jsなどのソフトウェアが使う圧縮ライブラリBrotliの重大な脆弱性が下流アプリケーションでのリモートコード実行(RCE)を可能にしうることを示すエクスプロイトを開発・検証しました。OpenAIは、悪用を検知・阻止し、モデルの行動をユーザーの意図と認可の範囲内に保つため、GPT-6 Cyberのより強い能力により強いセーフガードを組み合わせました。OpenAIの脆弱性研究者も、オープンソースソフトウェアの脆弱性を大規模に(at scale)見つけて検証するためにGPT-6 Cyberを使用しており、この取り組みにより、何年も精査されてきたソフトウェアからこれまで知られていなかった欠陥が見つかりました。OpenAIの自社システムの保護に向けた、管理されたレッドチーミングのキャンペーンにおいて、GPT-6 Cyberや他のOpenAIモデルを使うエージェントは、脆弱性を連鎖させてmicroVMを脱出し、基盤となるホスト上でコードを実行しました。OpenAIはその調査結果を用いて、ソフトウェアにパッチを当て、ネットワーク制限を強化し、メンテナーやベンダーに問題を報告しました。モデルの能力が高まりセキュリティ脆弱性がより多く見つかるにつれ、悪用して害を及ぼそうとする試みが増えており、これには悪意あるサイバー攻撃者による取り組みや、OpenAIのモデルを蒸留(distill)しようとする敵対的なグループによる取り組みが含まれます。GPT-6 Cyberのリリースに合わせて追加・強化された保護の一つとして、サイバー特化のミスアラインメント(misalignment)監視があります。この監視は、正当なエクスプロイト開発やテストを認めつつ、行動がユーザーの認可と一致しているかを監視します。もう一つの保護として、新たに現れる脅威に対する的を絞った監視があります。例えば、PHPの重大な脆弱性の協調的開示(coordinated disclosure)の際には、稼働中のPHPサーバーを標的とするエクスプロイト開発の試みに対する的を絞った監視を設けつつ、影響を受けたシステムにパッチを当てる防御側への支援は維持しました。OpenAIのPrivate Safety Processing(PSP)は、自動チェックで関連するやり取りに悪用がないかを確認する仕組みであり、標準の保持が引き続きデフォルトです。Zero Data Retentionを使うAPI顧客は一般にPSPを使う必要があり、PSPは顧客のストレージに30日間保持される暗号化された記録を、プロンプトとレスポンスをOpenAIの担当者に見せずに確認します。盗まれた認証情報への保護として、Daybreak Red APIへのアクセスにはデフォルトでIPアローリスト(IP allowlisting)が必須であり、限られた例外を除いてリクエストを承認済みネットワークに制限します。認証情報が侵害されていないかの監視も行っています。これまでのモデルと同様に、リスクの高いワークフローでは、サンドボックス化、アクションのレビュー、および人間による監督が推奨されています。また、重要なシステムに関わるリスクの高い活動をブロックするために新しいチェックを使い、高リスクなサイバー支援から保護しています。

OpenAIは、自社システムの保護にもGPT-6 Cyberを使用しており、同モデルは最近共有されたフロンティアモデル(frontier models)の訓練に使うインフラを堅牢化するための取り組みにおける主要なモデルの1つでした。GPT-6 Cyberのセーフガードとアクセスの設計においては、発電所や水処理施設、およびそれらを支える運用技術・産業制御システム(OT/ICS)を含む重要インフラ(critical infrastructure)の保護が重要な考慮事項となっています。発電所や水処理施設、OT/ICSなどの重要インフラを守る側のチームに最も高性能なモデルへのアクセスを与えると同時に、不正な攻撃を防ぐためのセーフガードも強化したいと考えています。

重要インフラ防御への支援とDragosとの提携

リソースに制約のある政府機関や必須サービス事業者などのチームのアクセスを補助するため、10億ドル規模の助成プログラム「Daybreak for Frontline Defenders」が提供されます。OpenAIは、重要インフラの防御にモデルがどう役立つかを評価するため、拡張運用技術(xOT)サイバーセキュリティのグローバルプロバイダーであるDragosと提携しました。Dragosは、管理されたラボ環境で、サイバー許容型のDaybreak Redモデルを使って評価を行いました。この評価は、ネットワーク探索とアセット列挙から、標的を絞った偵察、機微データの持ち出し、不正で危険となり得るデバイス操作へと進むリクエストを対象としています。Daybreak Red内に新しいグループ Daybreak Red for Critical Infrastructure が導入されます。承認された重要インフラの防御担当者に、重要システムに対する認可されたテストを行う権限を与えつつ、モデルのミスアラインメントに対するセーフガードは維持されます。Daybreak RedおよびDaybreak Blueのプラットフォームの悪用を防ぐため、OpenAIは産業制御や安全が重要なシステムを侵害し得る支援や能力開発、機器への干渉、重傷・壊滅的な物理的損害・生命を脅かすサービス停止を引き起こし得る支援や能力開発に対するセーフガードを改良しました。図は、GPT-6 Cyberと併せて展開している最近の更新の前後について、4つのアクセス構成にわたるセーフガードのラベル率を比較しています。セーフガードのブロック率は高いほど常に良いわけではありません。この評価で扱う手法の多くは、システムの理解、脆弱性の発見、修正が攻撃に耐えることの検証といった正当なセキュリティ業務にも不可欠であるため、OpenAIは100%を目指さず、正当な研究やパッチ適用への支援と併せてこれらの率を評価しています。

OpenAIは、Dragosからのフィードバックを使用して、認可されたテストを不必要に制限することなく有害な支援をブロックすることを目指してセーフガードを改良しました。また、他の攻撃的セキュリティプロバイダーやパープルチームとは、AIを用いたペネトレーションテストやレッドチーミングにおいてパートナーシップの拡大に取り組んでいます。さらに、エネルギー企業や他の重要インフラ事業者、国立研究所とは、産業防御におけるモデルの有効性とセーフガードを評価するためにパートナーシップの拡大に取り組んでいます。OpenAIは、OT/ICSに関わるモデルの利用を検出するため、脅威調査への投資も増やしています。

セーフガードは、パートナーやセキュリティコミュニティの意見を取り入れて改良され続けます。セーフガードが有害な活動を見逃したり正当な作業を妨げたりした場合は、/feedback経由で報告できます。

提供範囲とアクセス拡大の予定

サイバーセキュリティモデルであるGPT-6 Cyberは、当初、APIとCodexを通じて、承認された一部のDaybreak Redの顧客に提供されます。GPT-6 Cyberへのアクセスは、近く全てのDaybreak Redの顧客へ段階的に拡大される予定です。また、GPT-5.6 Cyberは全てのDaybreak Redの顧客に提供されます。

GPT-6 AstraのDaybreak Blueのアルファ版アクセスは、より多くの組織や個々のセキュリティ研究者に拡大されています。新規のユーザーや組織は、Daybreakに申請して、同社のサイバー関連のスキル、製品、パートナーを使い始めることができます。