Strettoは、Webフォームを電話で受付インタビューを行うAI音声エージェントに置き換える機会を見出しました。このエージェントは、破産に関する質問票の全体を会話形式で案内し、リアルタイムで構造化データを抽出します。その後、弁護士が定義したルールに照らしてリードを振り分けることで、弁護士の意思決定を支援します。

Strettoは、AWS Generative AI Innovation CenterおよびAWSパートナーであるCI&Tと協力し、Amazon Nova 2 Sonicを搭載したAI音声エージェントTaraを構築しました。Amazon Nova 2 SonicはAmazon Bedrockのspeech-to-speechモデルです。Taraは電話で破産申立ての受付面談を行うAI音声エージェントです。発信者がBankruptcy.comの番号に発信すると、Taraが応答して自己紹介を行い、構造化された会話を通じて発信者を案内します。

Taraは複数フェーズの破産申立ての受付インタビューを行い、弁護士が定義したルールに照らしてリードを振り分けます。構造化された会話の中で、Taraは個人情報、財務の詳細、資産の一覧、職歴を収集しつつ、発信者の感情の状態に合わせて口調を調整します。このソリューションは、Amazon Bedrockで利用できる音声から音声へのファウンデーションモデル(FM)であるAmazon Nova 2 Sonicの上に構築されています。

Strettoが音声エージェントを構築する前は、Bankruptcy.comサイトにおいて、破産を検討している消費者は負債額、弁護士の有無、連絡先情報といった少数の項目を持つWebフォームに記入していました。このWebフォームから生まれたリードは利幅が薄いものでした。一方で、破産弁護士は、負債、資産、車両、不動産、職歴、過去の申立てを含む詳細な財務データを持つリードをより高く評価します。Webフォームのリードと完全に適格化されたリードとの間には大きな差があります。

Webフォームを拡張して詳細を取得することもできましたが、フォームが長くなるほど訪問者が途中で離脱しました。電話インタビューであれば、人は会話の中で機微な財務情報を共有しやすいため、情報を自然に引き出せたはずでした。しかし、そのインタビューを行う人間の受付チームを配置・訓練することは、コストが高すぎて現実的ではありませんでした。課題は、機微な金融に関する会話を、低レイテンシー、きれいな割り込み処理、感情への配慮を備えて自然に扱え、ユニットエコノミクスが成り立つコストに収まる音声AIソリューションを見つけることでした。

Strettoのチームは、Amazon Nova 2 Sonicのspeech-to-speechモデル機能とAWS上の適切に設計されたアーキテクチャを組み合わせることで、個人の経済的困窮について話す発信者にとって十分に自然で、大規模に意味のある節約を実現できるほどコスト効率の高い音声エージェントを構築しました。Strettoの初期の本番結果では、Webフォームと比べてコンバージョン率が相対的に20パーセント上昇しており、これはソリューションが追加の地区へ広く展開される前の段階でのものです。通話の終了時に、Strettoのシステムは弁護士が定義したルールを適用して、リードを適格(qualified)、不適格(disqualified)、追加情報が必要(needs-more-information)のいずれかに振り分け、弁護士のレビューに回します。StrettoがWebフォーム経由のリードからAIが支援する受付インタビューへと移行した経緯は、音声AIが機微なユースケースに求められる品質基準に達したときに何が可能になるかを示しています。

Strettoが構築したAI音声エージェント「Tara」は、Amazon Bedrock経由で利用可能な音声から音声へのファウンデーションモデル(FM)であるAmazon Nova 2 Sonicによって動作しています。Amazon Nova 2 Sonicは、音声認識と応答生成を1回の処理で行うspeech-to-speech基盤モデルです。これは、別々の音声認識、言語モデル、音声合成のコンポーネントをつなぐのではなく、音声認識と応答生成を1回の処理で行う仕組みです。Amazon Nova 2 Sonicは、インタビュー中の構造化データ収集のためにツール呼び出し(tool calling)をサポートしています。

Nova 2 Sonicを選んだ理由

Strettoのチームは、従来の音声ソリューションではなくAmazon Nova 2 Sonicを選択しました。選択した理由として、3つの理由があります。コスト面では、Strettoは従来のソリューションと比べて1分あたりの音声コストが95パーセント減ったと報告しています。これは、2026年4月時点のus-east-1でのAmazon Bedrockオンデマンド料金に基づいています。

遅延に関しては、Strettoのテストにおいて、従来のソリューションは最初の音声が出るまでの時間(time-to-first-audio)の遅延が500ミリ秒を超え、不自然な間が生じていました。Amazon Nova 2 Sonicは、自然な会話の流れを支えるため低遅延になるよう設計されています。割り込み処理の面では、ストレスのかかる状況にいる発信者は、口を挟む、言い直す、確認の質問をするといったことが必要になりますが、従来のソリューションはバージインの処理が不十分で、会話の流れをたびたび壊していました。Amazon Nova 2 Sonicは、セッションを壊さずに割り込みを処理するよう設計されています。Amazon Nova 2 Sonicは、音声入力の処理と音声出力の生成を、別々の音声認識、言語モデル、音声合成のコンポーネントをつなぐのではなく、単一のモデルでネイティブに行います。このアーキテクチャは遅延を減らし、より自然に聞こえる会話を生み出すよう設計されており、どちらもデリケートな破産申立ての受付通話にとって重要です。

Amazon Bedrockを基盤にしたことで、チームは1つのマネージドサービスでAmazon Nova 2 SonicとAnthropicのClaudeの両方を利用でき、運用するモデルインフラも必要ありませんでした。また、機微な財務データを扱うワークロードにAWSのセキュリティとガバナンスの制御が適用されます。Amazon Bedrockは、プロンプトやモデルの出力をモデルの訓練には使用しません。

通話フローとAWS上のアーキテクチャ

発信者はTwilioを通じてTaraにつながり、TwilioがAWSへのWebSocket接続を開きます。Twilio Media Streamsは、発信者の生の音声をWebSocketで届けます。これは音声ブリッジが必要とする入力であり、CI&TはすでにこれをAmazon Nova 2 Sonicと統合していました。トラフィックはAWS WAFとApplication Load Balancerを経由して、AWS Fargate上のAmazon Elastic Container Service (Amazon ECS)で動く音声ブリッジに届きます。この音声ブリッジは、Amazon Bedrock経由でアクセスするAmazon Nova 2 Sonicと音声をストリーミングします。

Amazon Nova 2 SonicとClaudeの両モデルへのアクセスは、AWS Identity and Access Management (IAM)で管理されます。Amazon Bedrockへのトラフィックは、VPCエンドポイント(AWS PrivateLink)を通じてAWSネットワーク内にとどまります。AWS WAF、VPCエンドポイント(VPC endpoints)、Application Load Balancerは、APIエンドポイントの保護、アベイラビリティーゾーン間のトラフィックのルーティング、およびAWSサービスへのプライベート接続を提供するセキュリティ・ネットワーク層であり、APIエンドポイントの保護に役立ちます。

モデルが音声ブリッジ、データベース、Amazon CloudWatchによる監視と同じAWS環境で動作するため、チームは1組のツールでソリューション全体をセキュリティ保護し運用できました。通話後のイベントの非同期のWebhook処理を管理するためにAmazon Simple Queue Service(Amazon SQS)とデッドレターキューが使用され、失敗したメッセージは再試行のために保持されます。

Amazon Elastic Container Service (Amazon ECS) on AWS Fargateは、テレフォニー層とAmazon Nova 2 Sonicをつなぐ音声ブリッジのコンテナを実行するサーバーレスのコンピューティングエンジンです。音声ブリッジのタスクは、高可用性のために3つのアベイラビリティーゾーンで継続的に稼働します。

破産に関する会話は感情的になりやすく、発信者はストレスを抱えていたり、ためらっていたり、恥ずかしさを感じていたりすることが多いため、音声エージェントには機械的・事務的ではなく、共感的で自然に聞こえることが求められます。なお、人間のエージェント間で通話を振り分けるコンタクトセンターのワークロードでは、Amazon ConnectもAmazon Nova 2 Sonicをサポートしています。

Strettoが構築した音声エージェント「Tara」の通話フローでは、発信者がBankruptcy.comの番号に電話をかけます。Twilioのテレフォニー層がこの着信を受け取り、AWS Fargate上のAmazon ECSで動作するvoice bridgeへのWebSocket接続を開きます。Strettoが電話にTwilioを使用した理由は、Taraの受付が完全に自動化されており通話を受ける人間のエージェントがいないこと、そして既存のAWSバックエンドを維持したままAmazon Nova 2 Sonicと直接統合したかったためです。アーキテクチャを支えるサービスには、NATゲートウェイ、VPCエンドポイント、Amazon Elastic Container Registry (Amazon ECR)、AWS Secrets Manager、およびAmazon CloudWatchが含まれます。

Amazon Nova 2 Sonicが文字起こしを生成した後、Amazon Bedrock上のAnthropicのClaude 3 Haikuは会話の文字起こしから構造化データを抽出する処理を担います。具体的には、型付きフィールド(名前、金額、住所、車両の詳細)をリレーショナルスキーマに抽出します。通話後は、デッドレターキューを備えたAmazon Simple Queue Service (Amazon SQS)が文字起こしを非同期プロセッサに渡します。通話終了後、全文の文字起こしがAnthropicのClaude 3 Haikuを使った抽出パイプラインに渡され、このパイプラインは会話からフィールドを抽出し、Amazon Auroraに保存します。適格なリードは管轄ごとに弁護士へ振り分けられます。

段階的な開発と本番展開の進め方

Strettoのチームは段階的に開発を進めました。まず音声品質を検証し、次に本番環境への統合を構築しました。その後、実際の発信者でシステムが機能することを確認してから、質問票の範囲を拡大しました。Amazon Nova 2 Sonicの検証では、通話者の感情状態(落ち着いている、ストレスを感じている、ためらっている、苛立っている)ごとの音声品質を確認しました。また、最初の音声が出るまでの時間の遅延(time-to-first-audio latency)を、従来のソリューションの500 ms超というベースラインと比較してベンチマークしました。さらに、バージイン(barge-in)と割り込み処理を確認し、発信者が文の途中で口を挟んでも会話が崩れないかを確認しました。音声品質の検証では、エージェントが発信者の苦しそうな様子に合わせてペースやトーンを調整するかという、感情的なトーンへの適応も確認しました。これらの検証結果は比較レポートとして作成され、統合に進むかどうかのgo/no-goゲートとなりました。

通話フローでは、voice bridgeが発信者とAmazon Nova 2 Sonicの間で音声を双方向にストリーミングします。Taraは自己紹介をし、同意を取得して、受付のインタビューを始めます。ストリームの上限時間の少し前に、voice bridgeは同じシステムプロンプトとツール設定で新しいストリームを開き、ここまでの会話をテキスト履歴として送ります。Taraが現在の応答を終えると、voice bridgeは発信者の音声を新しいストリームに切り替えて古いストリームを閉じるので、発信者にとって会話は滑らかに続きます。

弁護士が設計した完全な受付は15〜20分かかることがあり、これはAmazon Nova 2 Sonicの単一ストリームセッションの最大時間より長くなります。チームはそのセッション時間を設計パラメータとして扱い、会話コンテキストをセッションの境界をまたいで引き継ぐsession continuation patternを実装しました。voice bridgeはAmazon Nova 2 Sonicとの各双方向ストリームが開いている時間を追跡します。

Amazon Auroraのスキーマは、1対多の関係をサポートする完全なリレーショナルデータモデルに拡張されました。1人の発信者のレコードには、車両4台、不動産2件、数十件の個々の債務明細項目が含まれることがあります。Amazon Aurora Serverless v2は、Multi-AZ構成でデプロイされたPostgreSQL互換のサーバーレスリレーショナルデータベースです。このデータベースは、発信者のプロファイル、受付の回答、適格性の判定結果、セッションのメタデータを保存します。Auroraのサーバーレスのスケーリングは、変動する通話量のパターンに適合します。

音声品質の検証を終えた後、Strettoのチームは3週間でエンドツーエンドの統合を構築しました。最初の本番展開では、既存の13フィールドの受付フォームを対象とし、Webフォームが取得していたものと同じデータ項目を自然な会話を通じて収集することで、範囲を広げる前に比較するための本番ベースラインを得ました。その後、本番パイロットの稼働を経て、チームは4週間かけて質問票を弁護士が設計した完全な受付へと拡張し、大幅に範囲を拡大しました。

Taraの聞き取り範囲は拡張されており、18を超える受付カテゴリで条件分岐(conditional branching)を持ちます。Taraが尋ねる質問は、発信者のそれまでの回答に応じて変わります。また、複雑なリレーショナルデータを扱います。これには車両(年式、メーカー、モデル、ファイナンス状況、車両ごとの月額支払い)、不動産、個々の債務明細項目、複数の雇用・収入源、過去の破産申請が含まれます。

リードの振り分けにおいて、Strettoは各リードに弁護士が定義したルールを適用して判定を行い、最終的な判断は弁護士が行います。音声エージェントは静的なWebフォームよりも豊かで条件付きのデータを収集できるため、Strettoはそのルールをより柔軟に適用し、リードを正確に判定できます。適格と判定されたリードは破産の実務家(bankruptcy practitioners)に回され、適格基準を満たさない発信者は別のリソースへ案内されます。また、このソリューションは重大な判断をモデルの外に置いています。リードの振り分けは通話後に弁護士が定義したルールで実行され、最終的な判断は弁護士が行うためです。

本番データから得た知見により、いくつかの最適化が行われました。これには、早期の離脱を減らすための質問の並べ替え、価値の高いフィールドを会話の早い段階で収集するための条件分岐の調整、および弁護士のフィードバックに基づく適格性判定のしきい値の変更が含まれます。Strettoは本番稼働から約3か月後に結果を報告しました。Strettoが同社のテストにおいてTaraが構造化フィールドを約96パーセントの精度で抽出し、完了した通話が平均で約8分であると報告している値に基づき、本番環境の主要な2つの指標として、完了した通話の平均通話時間は約8分、データ抽出精度は約96%となります。StrettoのPrincipal AI ArchitectであるDanya Gordin氏は、AWS GenAI Innovation Centerチームの専門知識が音声エージェントTaraの実現に役立ち、リードのコンバージョン率を20パーセント上昇させたことについて述べています。チームは、通話量、平均通話時間、受付の完了率、プロファイルの充足度、コンバージョン率、離脱ポイントといった主要な指標を追跡しました。

機微な財務データを扱う音声エージェントのデプロイには、機能テスト以上のものが必要です。AWS Generative AI Innovation Center(GenAIIC)のアドバイザリーチームは、4つのカテゴリにまたがる包括的なテストフレームワークの開発を導きました。ハッピーパステストの通話では、18を超えるカテゴリが正確な構造化データを収集していること、および適格性判定ルールが正しい結果を出すことを確認します。敵対的テストでは、エージェントは曖昧さに対処し、会話の一貫性を保つ必要があります。破産の受付は機微な財務情報を扱うため、チームはエージェントが開示事項を正確に伝え、先に進む前に同意を取得することを検証しました。バージインシナリオテストでは、Taraは文脈を失うことも、発信者に情報の繰り返しを求めることもなく、回復できるべきです。チームは責任あるAI(responsible AI)を、テスト段階だけのものではなく、本番の統制として扱いました。同意と開示は受付の開始前に提供され、記録されます。また、敵対的テストスイートは、会話を操作しようとする試みがリードの結果を変えないことを確認します。ハッピーパステストでは、協力的な発信者と、質問票全体にわたるエンドツーエンドの受付インタビューを最後まで行います。敵対的テストでは、矛盾した情報を伝える、会話の途中で回答を変える、特定の質問への回答を拒む、適格性の判定結果を操作しようとする、といった発信者を想定します。コンプライアンステストでは、同意の取得、開示事項の伝達、データの取り扱いのワークフローを対象にします。バージインシナリオテストでは、開示事項の説明中、質問の途中、エージェントの応答中など、会話のさまざまな時点で発信者が割り込む場面をテストします。

このソリューションは、モデル推論以外にも、リアルタイム音声にAmazon Bedrockの双方向ストリーミングAPIを使用し、インタビュー中の構造化データの取得にはツール使用(tool use)を用い、さらにVPCエンドポイント経由でAmazon Bedrockへプライベートな接続を行っています。GenAIICアドバイザリーチームは、音声特化アプリケーション向けのプロンプトエンジニアリングのベストプラクティスについても指針を提供しました。これには、セッション継続の境界をまたいで会話の状態を管理する手法や、長いインタビューを通じて一貫したエージェントの個性を保つシステムプロンプトの構成方法が含まれます。CI&TのExecutive ManagerであるMarcelo Wzorek氏は、AWS Generative AI Partner Innovation Allianceのパートナーの1社として、GenAIICプログラムは顧客とパートナーを結びつけて実際の課題を解決し事業成果を出す真の触媒だと述べています。Strettoの場合、それは音声エージェントを数週間で本番稼働させ、破産申立ての受付プロセスを変革することを意味したといいます。

Strettoのチームは、まず音声品質を検証し、次に最小限の受付(intake)を本番に展開し、その後に実世界のデータに基づいて範囲を拡大するという段階的なアプローチを取ることで、各段階のリスクを減らしました。Amazon Nova 2 SonicとAmazon Bedrockは、すべてのAWSリージョンで利用できるわけではありません。Amazon Nova 2 Sonicには、AWS AI Service Card for Amazon Nova 2 Sonicに記載されている組み込みの安全保護機能が含まれています。機微で価値の高い受付プロセスに音声AIを検討している場合、AWSのアカウントチームとAWS Generative AI Innovation Centerが、その範囲の設定と構築を支援できます。AI音声エージェントの検討を開始するためのリソースとして、Amazon Nova 2 Sonicとspeech-to-speech機能に関する情報が挙げられています。また、Amazon Bedrockを使うことでAmazon Nova 2 Sonicを含む基盤モデルにアクセスでき、コンテナ向けのサーバーレスコンピューティングにはAWS Fargateがあります。さらに、生成AI施策の助言支援を行うAWS Generative AI Innovation Centerも紹介されています。チームは、予測ではなく検証済みの前提の上に構築しました。

元記事の表
平均通話時間(完了した通話)\~8 min
データ抽出の精度\~96%

元記事の表を転載しています(見出しは日本語にしています。値は原文のままです)。出典: 元記事