Amazon BedrockのGPT-5.6、25を超えるAWSリージョンでクロスリージョン推論に対応

Amazon Bedrockは、OpenAI GPT-5.6モデルを、クロスリージョン推論(CRIS)つきで25を超えるAWSリージョンで提供するようになりました。GPT-5.6では、今回のローンチにより米国の地域別クロスリージョン推論(US cross-Region inference)とグローバルCRISが導入されました。

Amazon Bedrock上のGPT-5.6ファミリーには、汎用バリアントと、サイバーセキュリティに特化したバリアントが含まれます。このうちクロスリージョン推論に対応する汎用の3つのバリアントは、Sol、Terra、Lunaです。これら3つのGPT-5.6のバリアントは、それぞれ性能とコストのバランスが異なるように調整されています。

クロスリージョン推論に対応するSol、Terra、Lunaの3つのバリアントは、いずれもテキストと画像を入力として受け付けてテキストを返し、コンテキストウィンドウは100万トークンです。また、これらのバリアントは推論モード(reasoning mode)、サーバーサイドのツール呼び出し、プロンプトキャッシュに対応しています。これらはOpenAI Responses API、OpenAI Chat Completions API、Amazon Bedrock Converse APIで呼び出すことができます。

クロスリージョン推論と推論プロファイルの仕組み

Amazon Bedrockのクロスリージョン推論は、推論プロファイル(inference profile)を通じて動作します。推論プロファイルは、モデルと、Amazon BedrockがリクエストをルーティングできるAWSリージョンを定義する、生のモデルIDの代わりに渡す論理的な識別子です。クロスリージョン推論では、ソースリージョン(source Region)から推論プロファイルを呼び出すと、Amazon Bedrockが宛先リージョン(destination Region)へリクエストをルーティングし、そのリージョンのコンピュートを使って処理します。

クロスリージョン推論は、主にキャパシティのための仕組みです。リクエストが1つのリージョンの利用可能なキャパシティに縛られず、より広いコンピュートのプールを利用できるため、スループットが向上し、負荷がかかっても一貫した性能を保ちやすくなります。

地域別推論プロファイル(geographic inference profile)は、単一の地域(geography)内でリクエストをルーティングします。そのため、データをその地域内で処理したまま拡張できます。グローバル推論プロファイルは、モデルがデプロイされているサポート対象のすべてのAWS商用リージョンにまたがってリクエストをルーティングし、Amazon Bedrockのキャパシティへの幅広いアクセスを提供します。

GPT-5.6のSol、Terra、Lunaにおいて、Responses APIとChat Completions APIでは、`stream=True`によってストリーミングがサポートされます。また、Amazon Bedrock Converse APIでは、`ConverseStream`を通じてストリーミングがサポートされます。GPT-5.6は、Amazon Bedrock上でOpenAI Responses APIの形式をネイティブに扱います。

地域別推論プロファイルは、`us.`のような地域コードが先頭につきます(例: us.openai.gpt-5.6-terra)。このプロファイルは、推論処理をあらかじめ定められた地域内のリージョンにとどめます。リクエストはソースリージョンから入り、その地域内の宛先リージョンにしかルーティングされないため、データレジデンシー要件があるワークロードも、その境界内にとどまったままリージョン間で拡張できます。グローバル推論プロファイルは、先頭に`global.`がつきます(例: global.openai.gpt-5.6-terra)。このプロファイルはモデルがデプロイされているサポート対象のAWS商用リージョンのどこへでもリクエストをルーティングできます。グローバル推論プロファイルは最も広いキャパシティのプールを提供し、ワークロードに地域上の処理要件がない場合に適した選択肢です。

Amazon Bedrockコンソールのテキストプレイグラウンドは、コーディングや SDK のセットアップが不要で、GPT-5.6 を試す最も手軽な方法です。プロンプトを送り、推論パラメータを調整し、バリアントを切り替えて、API を組み込む前に各モデルの感触をつかむことができます。Amazon Bedrockコンソールのモデルセレクターには地域別推論プロファイルとグローバル推論プロファイルの両方が一覧表示されるため、コードを書く前にどちらのクロスリージョン推論も試せます。モデルセレクターでは、US のエントリが地域別推論プロファイル、Global のエントリがグローバル推論プロファイルです。

Amazon Bedrockコンソールでは、モデルが利用可能なUS East (N. Virginia)などのリージョンでAmazon Bedrockコンソールを開き、ナビゲーションペインのTestの下にあるPlaygroundを選択します。Amazon Bedrockコンソールのプレイグラウンドで、ページ中央のSelect modelを選びます。OpenAI GPT-5.6 Solを検索し、US OpenAI GPT-5.6 SolかGlobal OpenAI GPT-5.6 Solのどちらかを選んでApplyを選びます。Amazon Bedrockコンソールのプレイグラウンドでプロンプトを入力してRunを選ぶと、レスポンスが生成されます。

アプリケーションがすでにOpenAIモデルを呼び出している場合、既存のOpenAI SDKクライアントをAmazon BedrockのOpenAI互換エンドポイントに向け、modelパラメータに推論プロファイルのID(globalまたはgeographic)を指定すればよいです。Chat Completions APIでも同様に使えるため、アプリケーションがすでにこの形式を使っている場合に便利です。Amazon Bedrockの認証には、標準のAWS認証情報かAmazon Bedrock APIキーのどちらかを使えます。APIキーを使う方法はOpenAI SDKに最も直接的に合い、SDKはそのキーをbearer tokenとして渡します。本番環境では、`aws-bedrock-token-generator`パッケージを使って短期のAPIキーをプログラムで生成することが勧められており、このパッケージは既存のAWS認証情報からbearer tokenを導出します。長期キーは試用(exploration)向けにのみ推奨されます。サポートされるパラメータの一覧は、Amazon Bedrock User Guideの「OpenAI GPT model parameters」ページに掲載されています。

OpenAI SDKを経由せずAmazon Bedrockを直接呼び出す場合は、Amazon Bedrock Converse APIを使います。これはBedrock上の他のモデルですでに使っているのと同じリクエスト形式を提供します。新規アプリケーションにはbedrock-runtimeエンドポイントが推奨されます。このエンドポイントは、Amazon Bedrock独自のInvokeModel APIとConverse API、OpenAI互換のResponses APIとChat Completions API、Anthropic Messages APIに対応しています。また、Guardrails、intelligent prompt routing、クロスリージョン推論といったAmazon Bedrockの機能も利用できます。なお、Amazon Bedrockは2つ目のエンドポイントとしてbedrock-mantleにも対応しています。bedrock-mantleは現在、サーバー側および事前設定済みのツール使用（ウェブ検索を含む）や、ProjectsとWorkspacesの作成といった追加機能を提供しています。アプリケーションがすでに`bedrock-mantle`エンドポイントで動いており、In-Region Requirement for usageがある場合は、そのワークロードで引き続き`bedrock-mantle`を使えます。これは完全にサポートされており、変更は必要ありません。各モデルがどのエンドポイントをサポートするかは、Endpoint availabilityで確認できます。推論処理を特定の地域内にとどめる必要があるときは、地域別推論プロファイルを使えます(その地域内のリージョン間でスケールします)。サポート対象の商用AWSリージョン全体で最も広い容量プールが欲しいときは、global プロファイルを使えます。

Amazon Bedrock上のGPT-5.6モデルは、`bedrock-runtime`と`bedrock-mantle`の両方のエンドポイントで利用可能です。`bedrock-runtime`エンドポイントはResponses、Chat Completions、Converseの各APIをサポートし、クロスリージョン推論プロファイル、モデル呼び出しのロギング(model invocation logging)、Amazon CloudWatchメトリクス、AWS Cost Explorerでのコストの項目別表示といった機能に対応しています。使い始めるには、Amazon Bedrockコンソールを開き、推論プロファイル経由でGPT-5.6 Sol、Terra、Lunaにテストプロンプトを送るか、Responses APIを使ってプログラムからモデルを呼び出します。本番ワークロードの規模を見積もる前に、Amazon Bedrockの料金ページでGPT-5.6の最新料金を確認することが推奨されます。

Amazon Bedrockを利用する際、課金とクォータの消費は、どのバックエンドリージョンがリクエストを処理したかにかかわらず、アカウントに対して追跡されます。そのため、支出とスループットの状況は1つにまとまったまま適用されます。使用量はAWS Cost ExplorerとAWS Cost and Usage Reportにも項目別に表示されます。これにより、Bedrockの他のワークロードと同じように、GPT-5.6の支出をモデル別・プロファイル別に割り当てることが可能です。

グローバルCRISで処理されたデータは、そのモデルの対象リージョンのセットに含まれるリージョンをまたぐことがあります。地域別推論プロファイルとグローバル推論プロファイルのどちらを使っても、アプリケーションが通信するのは1つのエンドポイントで、使うプロファイルIDも1つです。ログ、クォータ、課金はソースリージョンにとどまります。

処理を特定の地域に限定するデータレジデンシー要件があるワークロードでは、グローバル推論プロファイルではなく、その地域の地域別推論プロファイル（例: us.openai.gpt-5.6-terra）か、1つのリージョンへの直接呼び出しを使います。各プロファイルのルーティング対象リージョンの正式な一覧は、Amazon Bedrock cross-Region inference supportページで確認できます。どのリージョンが各モデルのグローバルおよび地域別のプロファイルのセットに含まれるかは、Amazon Bedrockのクロスリージョン推論のドキュメントに記載されています。

GPT-5.6のリクエストはBedrock Runtime APIを通して実行されるため、地域別推論プロファイルまたはグローバル推論プロファイル経由のリクエストも、オンデマンドのリクエストと同じようにAmazon Bedrockのモデル呼び出しログに現れます。ログ設定によっては、リクエストおよびレスポンスのペイロードとともに、推論プロファイルのARNが記録されます。Amazon Bedrockのモデル呼び出しログは、Amazon S3またはAmazon CloudWatch Logsに配信できます。どの種類の推論プロファイルを使っても、呼び出しログとメトリクスはソースリージョンに記録されるため、リクエストが別のリージョンで処理されても、可観測性は1か所にまとまります。

アプリケーションでロングコンテキスト（100万トークン）の処理が必要な場合は、Amazon Bedrockの「model support by Region」ページでリージョンごとの提供状況を確認してください。

GPT-5.6の推論プロファイルのソースリージョンと宛先リージョンの対応（ルーティング）は、Sol、Terra、Lunaの3バリアントすべてに同じように適用されます。US クロスリージョン推論プロファイル(us.openai.gpt-5.6-sol / -terra / -luna)において、ソースリージョンが US West (Oregon) us-west-2 の場合の宛先リージョンは、US East (N. Virginia) us-east-1、US West (Oregon) us-west-2、US East (Ohio) us-east-2 です。ソースリージョンが Canada West (Calgary) ca-west-1 の場合、宛先リージョンは US East (N. Virginia) us-east-1、US West (Oregon) us-west-2、US East (Ohio) us-east-2、Canada West (Calgary) ca-west-1 になります。ソースリージョンが US East (N. Virginia) us-east-1 または US East (Ohio) us-east-2 の場合、宛先リージョンは US East (N. Virginia) us-east-1、US West (Oregon) us-west-2、US East (Ohio) us-east-2 になります。ソースリージョンが US West (N. California) us-west-1 の場合、宛先リージョンは US East (N. Virginia) us-east-1、US West (Oregon) us-west-2、US East (Ohio) us-east-2、US West (N. California) us-west-1 になります。ソースリージョンが Canada (Central) ca-central-1 の場合、宛先リージョンは US East (N. Virginia) us-east-1、US West (Oregon) us-west-2、US East (Ohio) us-east-2、Canada (Central) ca-central-1 になります。

グローバル推論プロファイル(global.openai.gpt-5.6-sol / -terra / -luna)の宛先は、サポートされている AWS 商用リージョンへ世界中でルーティングされます。アジアパシフィックのソースリージョンには、Asia Pacific (Melbourne) ap-southeast-4、Asia Pacific (Sydney) ap-southeast-2、Asia Pacific (Tokyo) ap-northeast-1、Asia Pacific (Osaka) ap-northeast-3、Asia Pacific (Seoul) ap-northeast-2、Asia Pacific (Mumbai) ap-south-1、Asia Pacific (Hyderabad) ap-south-2、Asia Pacific (Singapore) ap-southeast-1、Asia Pacific (Jakarta) ap-southeast-3、Asia Pacific (Thailand) ap-southeast-7、Asia Pacific (Malaysia) ap-southeast-5、Asia Pacific (Taipei) ap-east-2 があります。中東には Middle East (UAE) me-central-1 と Israel (Tel Aviv) il-central-1 があり、南米は South America (São Paulo) sa-east-1 です。グローバル推論プロファイルのソースリージョンには、米国の us-east-1、us-east-2、us-west-2、us-west-1、カナダの ca-central-1、欧州の eu-north-1、eu-west-3、eu-west-1、eu-central-1、eu-south-2、eu-south-1、eu-west-2、eu-central-2 もあります。

セキュリティとアクセス権限の設定

クロスリージョン推論は、リージョン内を直接呼び出す場合と同じAmazon Bedrockのセキュリティモデルを使います。リクエストはAWS Identity and Access Management(IAM)の認証情報で認証され、IAMポリシーによって、ロールが呼び出せる推論プロファイルが制御されます。クロスリージョン推論のリクエストはソースリージョンのAWS CloudTrailに記録され、`additionalEventData.inferenceRegion`フィールドに各リクエストを処理したリージョンが記録されます。Amazon Bedrockは、チップで強制されるzero-operator access(ZOA、オペレーターのアクセスが0)というセキュリティモデルを採用しており、プロンプトやcompletionsにアクセスできるAWSオペレーターは0人です。Amazon Bedrockのすべてのモデル呼び出しはIAMポリシーのもとで実行され、VPCエンドポイント経由で仮想プライベートクラウド(VPC)からプライベートにアクセスでき、AWS CloudTrailに記録されます。データ境界(data perimeter)ポリシーはアカウントやネットワークの境界を越えた持ち出し(exfiltration)を防ぐのに役立ちます。モデル呼び出しのロギングを有効にすると、リクエストとレスポンスのペイロードは、同じアカウント・同じリージョンのAmazon Simple Storage Service(Amazon S3)またはAmazon CloudWatch Logsに配信されます。GPT-5.6を含む一部のモデルでは、Amazon Bedrockの自動不正利用検出分類器(automated abuse-detection classifiers)にフラグを付けられたコンテンツが、オフラインでの不正利用検出のために最大30日間保持されます。

ロールが推論プロファイル経由でGPT-5.6を呼び出せるようにするには、その推論プロファイルへのアクセスと、プロファイルがルーティングできるすべてのリージョンの基盤モデルへのアクセスを付与する必要があります。マネージドポリシーAmazonBedrockLimitedAccessを使うか、独自のポリシーを作成できます。地域別推論プロファイル用のポリシーは3つのステートメントから成ります。2つ目のステートメントは、ソースリージョンと、その地域内のすべての宛先リージョンにある基盤モデルへのアクセスを付与し、このアクセスは、そのプロファイル経由のリクエストに限定する条件つきです。グローバル推論プロファイル用ポリシーは4つのステートメントから成ります。1つ目はソースリージョンのグローバル推論プロファイルとdefault projectへのアクセスを付与し、2つ目はソースリージョンの基盤モデルへのアクセスを付与します。3つ目は、リージョンに依存しないグローバルARN経由で基盤モデルへのアクセスを付与し、これがクロスリージョンのルーティングを可能にします。4つ目はOpenAI互換APIが使うベアラートークン認証を許可します。これらのポリシーは、project/defaultリソースに対して`bedrock:CallWithBearerToken`と`bedrock:InvokeModel`を付与します。OpenAI ResponsesおよびChat Completions APIは、これらの権限を使ってAmazon Bedrock APIキーによる認証と推論の実行を行います。ストリーミングのConverse API(ConverseStream)を使う場合は、推論プロファイルと基盤モデルのステートメントに`bedrock:InvokeModelWithResponseStream`を追加します。1つ目のステートメントは、ソースリージョンの地域別推論プロファイルと default project へのアクセスを付与します。

ポリシーの各ステートメントは連動して働くため、1つを削除すると、そのロールについてそのプロファイルのクロスリージョンアクセスが拒否されます。これは特定のロールに対してどちらかの機能を無効にする手軽な方法にもなります。代わりに、`global.`または`us.`の推論プロファイルを対象とする明示的なdenyをアタッチすることもできます。組織がリージョン制限型のサービスコントロールポリシー(SCP)を使っている場合、グローバルCRISのリクエストは、特定のリージョン名ではなく`unspecified`を`aws:RequestedRegion`に設定します。地域別CRISのリクエストは、プロファイル内のすべての宛先リージョンに対して評価されます。推奨される方法は、リージョンの許可リストを広げるのではなく、`bedrock:InferenceProfileArn`条件でクロスリージョン推論を除外対象にすることです。Amazon Bedrockは基盤モデルを認可する際にこの条件キーを設定するため、CRISのルーティングを許可しつつ、他のすべてのサービスについては許可リストを絞ったままにできます。ソースリージョンは引き続き許可リストに含まれている必要があります。条件を使いたくない場合は、代わりに宛先リージョンと`unspecified`を許可リストに追加できますが、この方法では宛先リージョンがAmazon Bedrockだけでなくすべてのサービスに開放されます。地域別とグローバルのどちらの推論プロファイルでも、アカウントとリージョンに対してモデルアクセスを有効にしておく必要があります。Bedrock CRIS Region-control SCP sampleを参照すると、すぐ使えるSCPと手順ごとのガイダンスが得られます。元記事で示されているSCPは、承認済みリージョン（例ではシドニーとN. Virginia）の外でのAmazon Bedrock推論を拒否し、GPT-5.6が使う`us.`と`global.`の推論プロファイルを除外対象にします。1つ目のステートメントは他のすべてのサービスについてリージョン許可リストを適用し続けるため、組織が使うグローバルサービスをNotActionリストに含めます。

プロンプトキャッシュとクォータの管理

Amazon Bedrock上のGPT-5.6の3つのバリアントは、すべて`bedrock-runtime` エンドポイントでプロンプトキャッシュに対応しています。リクエスト間でシステムプロンプトやfew-shot例のような長いプロンプトのprefixが共通している場合、Amazon Bedrockはその prefix をキャッシュします。後続のリクエストは prefix を再処理せず、キャッシュ済みの prefix を再利用するため、キャッシュされた部分の入力コストとレイテンシが下がります。

Amazon Bedrock上のGPT-5.6は、2つのキャッシュモードである暗黙的キャッシュ(implicit caching)と明示的キャッシュに対応しています。デフォルトの暗黙的キャッシュでは、サービスが最新のユーザーメッセージまたはツールメッセージにキャッシュブレークポイントを置くため、メッセージを追加して伸びていく会話に向いています。リクエストが、変わらない prefix と、その後ろのリクエストごとに変わる内容で構成される場合は、暗黙的キャッシュの代わりに、変わらない内容の末尾に明示的なキャッシュブレークポイントを置くことができます。GPT-5.6のプロンプトキャッシュでは、同じ prefix を持つリクエストが同じキャッシュにルーティングされるよう、どちらのモードでもオプションのパラメータ `prompt_cache_key` を渡します。また、各キャッシュブレークポイントには少なくとも1,024トークンのプロンプト prefix が必要です。

各レスポンスのusageオブジェクトを確認することで、キャッシュが機能していることを確認できます。GPT-5.6のプロンプトキャッシュにおける暗黙的・明示的な両モードは、地域別推論プロファイルとグローバル推論プロファイルの両方で動作します。

プロンプトキャッシュはクォータ使用量にも影響します。キャッシュ読み取りトークン(cache read tokens)はTPMクォータに算入されないため、キャッシュ済み prefix を再利用するリクエストはTPMクォータの消費が少なくなります。例えば、入力トークン2,000と出力トークン1,000のリクエストは、クォータから12,000トークンを消費しますが、キャッシュ読み取りトークンはこの計算に含まれません。そのため、プロンプトキャッシュはクォータ管理とコストの両面で有効です。

現在のクォータ割り当ての確認や引き上げのリクエストは、アプリケーションがAmazon Bedrockを呼び出すRegionから、AWS Service Quotasコンソールで GPT-5.6 のモデル推論クォータを検索して行います。高い使用量が見込まれるなら、本番でスロットリングが起きてから対応するのではなく、ローンチ前に Service Quotas コンソールから引き上げをリクエストし、デプロイ前に申請することが推奨されるクォータ管理の実践です。クォータ引き上げのリクエストの規模を見積もるときは、バーンダウンレート(burndown rate)を考慮します。これは、入力トークンと出力トークンがスロットリングシステム向けのトークンクォータ使用量に換算されるレートです。入力トークンはクォータに1:1で算入されますが、出力トークンはより高い倍率でクォータを消費することがあります。GPT-5.6モデルのバーンダウンレートは出力トークンで10xであり、出力トークン1つがTPMクォータの10トークンを消費します。そのため、出力の多いワークロードは、生のトークン数から想定されるよりもかなり速くクォータを使い切ります。モデルごとの現在のバーンダウンレートは、Amazon Bedrockのクォータのページで確認できます。

Amazon CloudWatchは、推論プロファイルごとにクォータ使用率のメトリクスをリアルタイムで公開します。呼び出し回数、トークン数、レイテンシー、スロットル、エラーを対象とするAmazon CloudWatchメトリクスは、推論プロファイルごとに公開されます。地域別推論プロファイルとグローバル推論プロファイルは別々のリソースであるため、メトリクスも別々に報告されます。使用量がしきい値に近づいたときのアラートを設定でき、過去の傾向を追跡して今後の引き上げを計画できます。リクエスト単位のレイテンシーは、リクエストが到達する宛先リージョンによっていくらか変わります。アプリケーションコードとクォータ消費が結び付いているのは推論プロファイルIDであるため、ダッシュボードでメトリクスをリージョン別に分けているなら、推論プロファイルIDで集計するビューの追加を検討するとよいです。ワークロードを本番に移す前に、ピーク時のパターンや本番規模のプロンプトを含む現実的なトラフィックで負荷テストを行います。地域別とグローバルのクォータは別々なので、実際に使うプロファイルの種類で検証します。