OpenAIは、GPT-6 Astraをリリースしました。GPT-6 Astraは、サイバーセキュリティ能力が大きく向上しており、この能力についてPreparedness FrameworkのもとでCriticalレベルに到達した初めてのモデルです。
GPT-6 AstraがCriticalの閾値を満たすとは、適切なツールとアクセスがあれば、GPT-6 Astraが、人が各ステップを誘導しなくても、多くの強固に保護されたシステムにわたって、未知のセキュリティ上の欠陥を見つけ、それを悪用する新しい方法を開発できることを意味します。OpenAIはこれに応じて、悪用によるものかミスアラインメントによるものかを問わず、モデルが有害なサイバー行動をとることへの保護を強化しました。Astraや同様のモデルの社内での開発と展開を守るための措置もとりました。その内容は、より厳格な隔離、チェックポイントの暗号化、chain of thought(CoT)を含むトラジェクトリ全体の全面的な監視、社内で使う前に通過を必須とするアラインメント評価のプロセスです。
GPT-6 Astraは新しい堅牢性の安全性訓練手法を取り入れており、ジェイルブレイク(jailbreak)に対して、より長いトラジェクトリを含めて、GPT-5.6 Solより大幅に堅牢です。GPT-6 Astraのジェイルブレイクに対する堅牢性は、オフラインテストと、厳格な社内外のジェイルブレイクテストおよび修復のプログラムによって確認されています。以前のテスト期間に見つかったジェイルブレイクに対してAstraが堅牢であることを、回帰テストで確かめています。また、改善を検証するため、最新の社内レッドチーミング用の攻撃側を使って、自動レッドチーミングを新たに行いました。
アラインメントの改善と評価結果
GPT-6 Astraは、GPT-5.6 Solよりアラインメント(alignment)が改善されています。Astraはモデルのアラインメント(model alignment)における大きな前進であり、事前学習データの構成から強化学習時の採点までにわたるアラインメントの改善を含んでいます。54,000件を超える社内のCodexタスクを使ったシミュレーションにおいて、Astraが受けた、より重大度の高いミスアラインメント行動(misaligned behavior)のフラグは、Solの約半分でした。新しいアラインメント評価のセットの結果も報告しており、GPT-6 Astraは安全とセキュリティの境界を守ること、許可された範囲内にとどまることに優れていることが分かりました。
監視回避の知見とモニタビリティの低下
敵対的な設定（モデルに監視をかいくぐらせようとする設定）において、AstraクラスのモデルはCoTモニターをかいくぐり得ることが示されています。sandbaggingとは、評価で戦略的に実力を発揮しないことを指します。敵対的な設定では、GPT-6 Astraは、sandbaggingを行うときに検知されないままでいられ、特定のサボタージュ課題を行うよう求められたときには内部モニターをかいくぐれることがあります。GPT-6 Astraについては、通常の無関係に見えるテキストの中に隠れた推論を潜ませるステガノグラフィ的なCoT推論の証拠は見つかっておらず、回避のリスクは主に、あまり推論を要しない課題に限られる可能性があります。Astraの監視回避に関する知見は現時点では主に敵対的評価に基づいており、アラインメント評価(alignment evaluations)全体では、AstraはGPT-5.6 Solよりセキュリティ・安全上の制限に違反しにくいことが示されています。
OpenAIは、ミスアラインメント行動を防ぐ主な手段はモデルのアラインメントだと考えていますが、ミスアラインメント監視(monitoring)は、フロンティアモデルの挙動を広く可視化し、アラインメントと安全性をさらに改善する機会を明らかにします。また、検出されたミスアラインメント行動に対する追加の保護層としても機能します。こうした理由から、Astraの外部向けの展開に関わる、ツールを使うすべての推論に、多くの計算コストをかけてミスアラインメント監視を追加しました。この仕組みは社内の構成と同様のものです。
GPT-6 Astraのモニタビリティ(monitorability)は、GPT-5.6 Solと比べて低下しています。調査の結果、GPT-6 AstraはGPT-5.6 Solよりも自身のCoTを制御する能力が高く、CoTに罪を示す情報を含める可能性が低いことが分かりました。モニタビリティと制御可能性については、OpenAIがかなりの調査を行いました。OpenAIはこの傾向を真剣に受け止めており、モデルの能力が高まるにつれて、監視回避に関するこれらの知見とモニタビリティへの影響を引き続き調査しています。
OpenAIは、chain of thought(CoT)モニタリングを維持し活用することに取り組んできています。CoTのモニタビリティを保つことは、研究プログラムの中核的な目標です。しかし、今回の結果は、モデルのchain of thoughtを調べる以外のアラインメント監査(alignment auditing)技術を開発することの重要性も示しています。
高リスクなユーザーや環境での安全性
GPT-6 Astraは、潜在的に高リスクとフラグが立てられたユーザーに対して、モデルの拒否の境界(refusal boundary)をより保守的にし、より広い範囲のデュアルユース(dual use)リスクを対象とするよう調整する能力を、追加で訓練して組み込んでいます。Astraは、安全でない依頼を安全に完遂することと、無害な依頼への不要な拒否を避けることの両面でパレート改善(Pareto improvement)を達成しています。この改善は、明示的な依頼ではなく、より広い文脈から害のリスクが生じる重大度の高いシナリオにも及びます。また、Astraは18歳未満のユーザーに対して、年齢に応じた安全上の境界をより一貫して適用します。
GPT‑6 Astraは、ブラウジングや職場の環境をより責任ある形で扱います。プロンプトインジェクションに対する頑健性は、GPT‑5.6 Solより高いです。現実的なブラウジング環境や業務用コンピュータ環境でのテストでは、GPT-6 Astraは、アラインメントに反し破壊的になり得る行動（無許可の取引、データ損失、過剰なアクセス、制御の回避など）をGPT‑5.6 Solより行いにくいことが判明しています。また、暴力的な攻撃の計画の手助けや詐欺の実行を求めるような有害な依頼をエージェント的な設定で扱う場合にも、GPT-5.6 Solより安全に振る舞います。
GPT-6 Astraは、リスクのより高いシナリオで、安全性が大幅に向上しています。本番環境の利用と敵対的な人間によるレッドチーミング(red-teaming)から得た難しい依頼に対し、GPT-6 AstraはGPT-5.6 Solより安全に応答します。