Amazon Bedrockのクロスリージョン推論(cross-Region inference)を使うと、カナダからOpenAI GPT-6.1、GPT-6、GPT-5.6などの最新の基盤モデル(FM)にアクセスできます。カナダの組織は、これらをカナダのAWSリージョンからアクセス可能にすることを求めることが多いです。このクロスリージョン推論を利用することで、OpenAI GPT-5.6 (Sol, Terra, Luna)、GPT-6 (Astra, Sol, Luna)、およびGPT-6.1 Solは、Canada (Central) と Canada West (Calgary) の両リージョンから利用可能になります。なお、推論は北米で処理されます。データレジデンシーの制御については、この記事の後半で説明されています。
利用できるGPTモデルの種類と位置づけ
Amazon Bedrockでは、カナダからクロスリージョン推論を通じてOpenAIモデルの3つのファミリーを利用できます。利用できるのは、GPT-5.6（Sol、Terra、Luna）、GPT-6（Astra、Sol、Luna）、GPT-6.1 Solです。GPT-6.1 Solの位置づけは、性能とコストの両方が重要なタスク向けの、強力な推論とコーディングです。GPT-6 Astraの位置づけは、複雑なエンドツーエンドの推論とエージェント型タスク向けです。GPT-6 Solの位置づけは、定常的に使うタスク向けで、日常的な利用に適した経済性を持つ、強力な推論とコーディングです。GPT-6 Lunaの位置づけは、大量に繰り返されるタスク向けの高速・低コストな推論で、リクエストごとに推論の強度(reasoning effort)を調整できます。
GPT-5.6 Solは、高度な推論、コーディング、エージェント型(agentic)のワークロード向けです。GPT-5.6 Terraは、日常的な本番利用向けの、性能とコストのバランスです。GPT-5.6 Lunaは、大量処理でレイテンシーに敏感なアプリケーション向けの、高速で手頃なモデルです。
本記事では、クォータ(quota)引き上げの申請方法、ソースリージョン(source Region)で利用できるオブザーバビリティ(observability)のシグナルの確認方法、および使用後のクリーンアップ方法について扱います。
アプリケーションはソースリージョンの Amazon Bedrock Runtime エンドポイントを呼び出し、Amazon Bedrock がそのリクエストを、処理を行うサポート対象の宛先リージョン(destination Region)へルーティングします。クロスリージョン推論を使うと、より広いキャパシティプールにアクセスでき、需要の急増時にアプリケーションがスループットを維持するのに役立つ可能性があります。アプリケーション側で宛先リージョンへのルーティングを管理する必要はありません。
Amazon Bedrockの推論プロファイル(inference profile)は、生のモデルIDの代わりに渡す論理的な識別子です。各プロファイルは、モデルと、Amazon Bedrockがリクエストをルーティングできるリージョンの集合を定義します。カナダから利用できる推論プロファイルには、2つのタイプがあります。
カナダのソースリージョンから使えるクロスリージョン推論プロファイルのうち、US geographic(接頭辞 `us.`)は、リクエストをカナダのソースリージョンと米国のリージョンにルーティングします。推論処理を北米（カナダと米国）内にとどめる必要があるワークロードには、このプロファイルを選びます。一方、Global(接頭辞 `global.`)の推論プロファイルは、モデルがデプロイされているサポート対象の商用AWSリージョンにリクエストをルーティングします。これにより、リクエスト時点でより広いキャパシティプールを利用できます。
GPT-5.6、GPT-6、およびGPT-6.1の各モデルは、テキストと画像の入力を受け付けてテキストを返し、100万トークンのコンテキストウィンドウ、推論モード、ツール呼び出しをサポートします。GPT-6.1 Solは同じコンテキストウィンドウとツール呼び出しをサポートし、追加の入出力モダリティがモデルカードに記載されています。
GPT-6.1 Solと、GPT-6 Astra / Sol / Lunaは、US geographicプロファイルとGlobalプロファイルのどちらも、ソースリージョンとしてca-central-1とca-west-1から利用できます。GPT-5.6 Sol / Terra / Lunaは、US geographicプロファイルはca-central-1とca-west-1から利用できますが、Globalプロファイルはca-central-1からのみ利用できます。プロファイルの構成やモデルの提供状況は変わることがあります。GPT-5.6モデルのGlobalプロファイルは`ca-central-1`からのみ利用でき、`ca-west-1`からGPT-5.6を使う場合はUS geographicプロファイルを使います。
| モデル | US geographic profile | Global profile |
|---|---|---|
| GPT-6.1 Sol | ca-central-1, ca-west-1 | ca-central-1, ca-west-1 |
| GPT-6 Astra / Sol / Luna | ca-central-1, ca-west-1 | ca-central-1, ca-west-1 |
| GPT-5.6 Sol / Terra / Luna | ca-central-1, ca-west-1 | ca-central-1 |
元記事の表を転載しています(見出しは日本語にしています。値は原文のままです)。出典: 元記事
本記事では、カナダから利用できるGPT-5.6、GPT-6、GPT-6.1の各モデルと、それらのモデルを提供するクロスリージョン推論プロファイル(cross-Region inference profile)について順を追って説明します。GPT-5.6、GPT-6、GPT-6.1は、Amazon Bedrock上でプロンプトキャッシュもサポートします。
GPT-5.6、GPT-6、およびGPT-6.1は、`bedrock-runtime` エンドポイントで、OpenAI Responses API、OpenAI Chat Completions API、Amazon Bedrock Converse APIの3つのアクセス経路をサポートします。カナダから利用できるGPTモデルは、OpenAI Responses API、Chat Completions API、Amazon Bedrock Converse APIで呼び出すことができ、そのための権限設定の方法があります。OpenAI Chat Completions形式は、OpenAI Responses APIと同じ`bedrock-runtime` エンドポイントを通して動作します。OpenAI互換APIであるOpenAI Responses APIとOpenAI Chat Completions APIは、同エンドポイントの `/openai/v1` パスで呼び出しができ、このエンドポイントはAWS Signature Version 4 (SigV4)またはAmazon Bedrock APIキーのいずれかを受け付けます。AWSの例では、Python用のAmazon Bedrock token generatorを使い、現在のAWS認証情報から短期のAmazon Bedrock APIキーを作成するので、アプリケーションは静的なキーを保存する必要がありません。
OpenAI SDKをResponses APIとともに使っているアプリケーションでは、クライアントをリージョンのAmazon Bedrock Runtimeエンドポイントに向け、推論プロファイルのIDをmodelとして渡します。OpenAI Responses APIでストリーミング出力を得るには、`stream=True` を設定してレスポンスのイベントを順に処理し、届いたテキストを出力します。Responses APIについては、ストリーミングとツール使用(tool use)の例が示されています。サポートされるパラメータの全一覧は、推論の強度のレベルを含め、Amazon Bedrock User Guideのモデルカードで確認できます。これらのモデルは、クライアント側のツール使用(関数呼び出し)に対応しています。ツールは `tools` パラメータで定義し、モデルはアプリケーションが実行するための構造化されたツール呼び出しリクエストを返します。
アプリケーションがAWS SDK経由でAmazon Bedrockを呼び出す場合は、Converse APIを使うようAWSは勧めています。Boto3は標準のAWS認証情報チェーンで認証情報を解決します。Converse APIの呼び出しは、推論プロファイルIDを変更するだけで、GPT-6 Sol、GPT-6 Luna、GPT-6.1 Solの3モデルに対して使うことができます。コード例では、`ca-central-1` から動作を確認しており、GPT-6 SolにはUS geographicプロファイル、GPT-6 LunaにはGlobalプロファイルを使用しています。
料金については、Amazon Bedrock pricingを参照してください。モデルごとのリージョン提供状況は、Amazon Bedrock User Guideのモデルカードを参照してください。
テスト終了後に継続的な課金が発生することを避けるには、作成したリソースを削除する必要があります。クリーンアップの手順として、モデル呼び出しログ記録(model invocation logging)をオフにしてください。Amazon BedrockコンソールでSettingsからModel invocation loggingを選択するか、`DeleteModelInvocationLoggingConfiguration`を呼び出すことで、Amazon S3とAmazon CloudWatch Logsへのログ配信が止まります。テスト用に作成したIAMポリシーとAmazon Bedrock APIキーは、削除するかデタッチしてください。
推論プロファイル自体はシステム定義であり、使用していないときはコストが発生しません。クロスリージョン推論は、転送中と保存時のデータを保護するよう設計されています。リクエストは公開インターネットではなく、TLS 1.2+で暗号化されたAWSのプライベートバックボーンを通ります。
カナダの顧客の場合、保存時のデータはデフォルトでソースリージョンにとどまり、これには呼び出しログ、ナレッジベース、設定が含まれます。宛先リージョンで行われるのは一時的な推論計算のみであり、デフォルトではモデルプロバイダーはプロンプトや補完(completion)にアクセスできません。OpenAIモデルに固有の考慮事項として、自動不正利用分類器(automated abuse classifiers)にフラグを立てられたコンテンツは、レビューのため宛先リージョンで最大30日間保持される場合があります。
処理を北米（カナダと米国）に限定したい場合は、US geographicプロファイルを選択できます。Amazon Bedrockの不正利用検出について、コンプライアンスチームと確認することが推奨されます。カナダのデータレジデンシー(data residency)のパターンについての詳細は、Cross-Region Inference and Canadian Data Residency: A Technical Architecture Guideで参照できます。
デプロイの前に、ソースリージョンで有効なプロファイルをAWS Command Line Interface(AWS CLI)またはコンソールで確認するか、Cross-Region inference supportのドキュメントを参照することが勧められています。モデルを呼び出す前に、AWS CLIを用いてソースリージョンにおいてどの推論プロファイルが有効かを確認できます。`ca-central-1` から有効なOpenAIプロファイルを一覧表示するコマンドを使用する場合、Calgaryから同じ確認をするには `ca-central-1` を `ca-west-1` に置き換えます。Amazon Bedrockコンソールでも同じ一覧を確認できます。コンソールを開き、リージョンにCanada (Central)またはCanada West (Calgary)を選び、Inferenceの下のCross-Region inferenceを選んで、利用可能なプロファイルを確認します。
Amazon Bedrockでは、GPT-5.6、GPT-6、およびGPT-6.1がプロンプトキャッシュに対応しており、繰り返されるプロンプト接頭辞のコストとレイテンシを下げられます。暗黙的キャッシュ(Implicit caching)はコードの変更を不要とし、Amazon Bedrockが1,024トークン以上の対象となる接頭辞を自動的にキャッシュします。後続のリクエストで読み取られたキャッシュ済みトークンは割引料金で課金され、tokens-per-minuteクォータにはカウントされません。キャッシュ済みトークンはレスポンスのusageオブジェクトとAmazon CloudWatchメトリクスに表示され、使用状況を追跡できます。キャッシュ書き込みの料金、最小接頭辞サイズ、明示的なキャッシュブレークポイントへの対応については、プロンプトキャッシュのドキュメントと各モデルカードを参照してください。
クォータの仕組み、事前準備とSCP、引き上げ申請
bedrock-runtime エンドポイントのクロスリージョン推論のクォータは、モデルごとの1分あたりのトークン数(TPM)で測定されます。各クォータは入力トークンと出力トークンを単一の上限に合算します。US geographicプロファイルとGlobalプロファイルは、クォータの割り当てが別々であるため、両者を切り替えると消費するプールが変わります。トークン消費は、入力トークン、キャッシュ書き込み入力トークン、および出力トークンの合算になります。出力トークンにはモデルのburndown rateが掛けられるため、出力の多いワークロードは生のトークン数から想像されるより速くクォータを消費します。
本番展開の前には、クォータ引き上げを早めにリクエストし、クォータ使用率を監視することが勧められています。代表的なプロンプト、出力長、ストリーミングの挙動、同時実行数、ピーク時のトラフィックを用いてテストしてください。記事では、クォータ引き上げのリクエスト方法、使用状況の確認方法、およびテスト用リソースのクリーンアップ方法についても示しています。
クロスリージョン推論を利用するための前提条件として、Canada (Central) `ca-central-1` または Canada West (Calgary) `ca-west-1` リージョンをソースリージョンとして有効化したAWSアカウントが必要です。また、推論プロファイルを呼び出す権限を持つAWS Identity and Access Management (IAM) のロールまたはユーザーが必要となります。手軽に試すだけなら、AWSマネージドポリシー `AmazonBedrockLimitedAccess` をアタッチします。より厳格なアクセス制御が必要なデプロイ済みワークロードでは、最小権限のカスタムポリシーを使用してください。
開発環境として、Python 3.9以降と、インストール済みの `openai`、`boto3`、`aws-bedrock-token-generator` の各パッケージが必要です。APIキー方式（OpenAI SDK向けのベアラートークン）で認証する場合は、`bedrock:CallWithBearerToken` も許可する必要があります。Responses APIを使う場合は、`arn:aws:bedrock:ca-central-1:*:project/default` に対する `bedrock:InvokeModel` を追加します。なお、最小権限のカスタムポリシーの例として、`ca-central-1` からGPT-6 AstraのGlobalプロファイルへのアクセスを許可する設定があります。
組織でサービスコントロールポリシー(SCP)を適用している場合は、ソースリージョンの推論プロファイルを許可するSCPが必要です。組織がSCPでリージョンを制限している場合でも、`bedrock:InferenceProfileArn` 条件キーを使うことで、承認されていないリージョンへの直接呼び出しをブロックしつつ、CRISのトラフィックを許可できます。この条件を用いると、Amazon BedrockはCRISの推論プロファイルの宛先リージョンがSCPで拒否されている場合でも、その宛先リージョンへルーティングできます。ただし、選んだ推論プロファイルのすべての宛先リージョンが許可されていないと、リクエストは成功しません。記事で示すSCPは、リクエストがCRISの推論プロファイルを使わない限り、承認済みのソースリージョンの外でのAmazon Bedrock推論を拒否します。
クォータの引き上げをリクエストするには、次の手順で申請します。まず、Service Quotasコンソールを`ca-central-1`または`ca-west-1`で開きます。Amazon Bedrockを選び、必要なモデルの「Cross-Region InvokeModel tokens per minute」という名前のクォータを選択します。Request increase at account levelを選び、目標値を入力してリクエストを送信します。トークン使用量とコストの追跡方法の詳細は、Track usage and costs in Amazon Bedrockを参照してください。
オブザーバビリティと利用開始
これらのモデルはAmazon Bedrock Runtime APIを通じて動作するため、推論プロファイル経由のリクエストも、オンデマンドのリクエストと同じようにオブザーバビリティのツールに表示されます。クロスリージョン推論の推論プロファイル経由のリクエストであっても、呼び出しログとAmazon CloudWatchメトリクスはソースリージョンに記録されます。これはリクエストがどこで処理されたかにかかわらず成り立ち、オブザーバビリティは1か所にまとまります。AWS CloudTrailはすべてのリクエストを記録し、どの宛先リージョンがそのリクエストを処理したかを`additionalEventData.inferenceRegion`フィールドに記録します。Amazon CloudWatchメトリクスは推論プロファイルごとに公開され、呼び出し回数、トークン数、レイテンシ、スロットル、エラーを対象とします。
モデル呼び出しログ記録は、リクエストとレスポンスのペイロード全体をAmazon Simple Storage Service(Amazon S3)またはAmazon CloudWatch Logsに配信しますが、この機能はデフォルトではオフです。Amazon Bedrockコンソールで有効にするには、SettingsからModel invocation loggingの順に選択するか、`PutModelInvocationLoggingConfiguration` APIを呼び出す方法があります。AWS Data Exportsは、モデルごとおよびプロファイルごとに支出を項目別に示します。
OpenAI CodexなどのAIコーディングアシスタントの基盤として、このブログで扱うOpenAI GPT-5.6、GPT-6、およびGPT-6.1のモデルを使う場合、Amazon CloudWatch Coding Agent Insightsが専用ダッシュボードを提供します。このダッシュボードは、トークン使用量、APIリクエスト数、アクティブユーザー、および部門・チーム・環境などの切り口でのコスト帰属を表示します。Amazon CloudWatch Coding Agent Insightsを有効にするには、コーディングエージェントがテレメトリをAmazon CloudWatchにエクスポートするよう設定する必要があります。設定手順は Set up OpenTelemetry for OpenAI Codex を参照してください。
筆者は、カナダからOpenAIのGPT-5.6 (Sol、Terra、Luna)、GPT-6 (Astra、Sol、Luna)、およびGPT-6.1 Solにアクセスする方法を示しました。
利用を開始するには、Amazon Bedrock User GuideにあるOpenAIモデルカードを確認してください。その後、Amazon Bedrockコンソールを開き、推論プロファイルを経由してテストプロンプトを送信します。料金については、Amazon Bedrockの料金ページで確認できます。