GPT-6 Lunaを基盤とするDecisions APIは、GPT-6 Lunaの知能を回答が限定された問いに集中させます。これにより、アプリケーションやエージェントはテキスト、画像、および構造化入力から、ほぼリアルタイムの判断を行えます。Decisions APIは、GPT-6 Lunaで専用のDecisionsエンドポイントを通じて一般提供(GA)されています。開発者は質問と許可される回答を定義し、テキスト、画像、またはネイティブJSONでコンテキストを渡すことでDecisions APIを使用できます。APIは確率、選択、スコアの3つの回答タイプのいずれかを返し、アプリケーションはそれを次の動作の決定に使うことができます。パブリックベータ以降、Decisions APIはネイティブJSON入力や質問の指示への画像の含有に対応し、1リクエストあたり最大400問(従来の上限の2倍)に対応しています。OpenAIはレイテンシの改善を継続しており、その一環としてアジアの複数のリージョンでキャパシティを追加しました。
OpenAIは、GPT-6 Lunaを基盤とし、Lunaの知能を回答が限定された問いに集中させることで、テキスト・画像・構造化入力からほぼリアルタイムの判断を行えるようにするDecisions APIの一般提供(GA)を開始しました。Decisions APIは、Responses API経由のGPT-6 Lunaより最大10倍高速に判断を行えます。また、パブリックベータ以降、ネイティブなGPT-Live統合、再利用コンテキスト向けのプロンプトキャッシュ、米国とEUでの推論レジデンシー(inference residency)が追加されました。GPT-Liveを使うと、スムーズな割り込み処理で会話の流れを保ちながら、音声アプリケーションに自然で表現豊かな会話を取り入れられます。
小さな判断の繰り返しと活用例
アプリケーションとエージェントは、ワークフロー全体で多くの小さな判断を繰り返します。入力をどう分類するか、リクエストをどこにルーティングするか、次にどのアクションを取るか、といった判断です。個々の判断は単純ですが、大規模に運用する場合、そのレイテンシとコストが積み上がります。
OpenAI社内でも、Decisions APIはさまざまな製品やビジネスのワークフローに活用されています。dotsチームは応答時間の短縮とインタラクティブ性の向上に使っています。Personal Financeチームは取引の説明文の分類に、Communicationsチームは報道をテーマで分類して主要なナラティブを補強するか異を唱えるかをスコア化し、より詳しい確認に値するものの特定に使っています。
Decisions APIの初期の採用により、さまざまなユースケースへの適用可能性が示されています。顧客による活用例は幅広く、AIコストの正確な帰属から、語学学習体験をよりインタラクティブにすることまで多岐にわたります。
Decisions APIの使用方法は簡単です。回答タイプが3種類あることによって、Decisions APIは幅広いユースケースに適用できます。
3種類の回答タイプの仕組み
Decisions APIは3種類の回答タイプに対応しています。そのうちpredicateは、製品に目に見える損傷があるかといった条件が真である確率を推定するために使い、主な結果として、条件が真である確率の0から1の推定値であるprobabilityを返します。
choiceは、エージェントが続行・再試行・確認要求のどれをすべきかなど、事前に定義した選択肢から1つを選ぶために使います。主な結果は渡した値の1つであるchoiceで、レスポンスにはprobabilitiesとconfidenceも含まれます。
scoreは、損傷の重大度など、ルーブリック(rubric)の順序づけられたレベルに対して入力を評価するために使います。主な結果はscoreで、レベルのインデックスの確率加重平均です。
GPT-Live統合とアバター表情のデモ
Decisions APIはGPT-Liveとネイティブに統合されており、アプリケーションはライブ会話中に高速で焦点の絞られた判断を行えます。例えば、カスタマーサポートエージェントが確認の質問をするか、リクエストをルーティングするか、問題をエスカレーションするかを決める場面で利用できます。また、アバターがユーザーの話に合わせて表情を変えたり、ユーザーの言葉に基づいてウインクや笑顔で応じたりする例もあります。
アバターの表情を選ぶ例では、文字起こしの更新を使います。この例の設定は、既存のGPT-Liveセッションの `session.triggers` に追加して使います。GPT-Liveは `decision.event` を発行し、アプリケーションは選択された `reaction` を読み取って、それに応じてキャラクターをアニメーションさせます。
Decisions APIのデモでは、Expression palette(表情パレット)の顔をタップすると、その表情をプレビューできます。また、ユーザーの発言とアシスタントの発言のそれぞれに基づいて、Decisions APIが顔の表情を選ぶ様子をリアルタイムで見ることができます。
Live decisionsの「Your words」では、ユーザーが話している間にその言葉に対する反応(reaction)を見ることができます。「Assistant’s words」では、アシスタントが返答している間に顔(face)の表情を見ることができます。試す発言の例としては、「I rehearsed my audition for my cat. She walked out halfway through.」が示されています。
Decisions APIのデモには時間制限があります。このデモを利用することで、利用者はOpenAIの利用規約に同意し、プライバシーポリシーを確認したものとみなされます。
導入の進め方と料金
Decisions APIを始めるには、アプリケーションが頻繁に行う繰り返しの判断を1つ選びます。そして、問いと取りうる答え、それらを区別するために必要なコンテキストを定義します。
Decisions APIは、実際の利用を反映した例でテストできます。OpenAIは、Decisions Playgroundで独自のテキストや画像を使って試すか、開発者ガイドに従って最初のリクエストを行うよう勧めています。
Decisions APIの料金は、入力トークン100万あたり$0.10です。キャッシュされた入力は、100万トークンあたり$0.01となります。課金対象は入力トークンのみで、出力トークンへの課金はありません。30分および12時間のキャッシュ書き込みの料金については、料金ガイドを参照してください。リージョン処理(regional processing)は米国とEUで利用でき、Zero Data Retention(データ保持0)は対象となる顧客が利用できます。