Anthropicは、ゼロデータ保持(ZDR)のプライバシーと、不正利用を検知する最先端のセーフガードを組み合わせたソリューションであるEnterprise Frontier Safeguards(EFS)を発表しました。EFSは、データをAnthropicではなく顧客が管理するクラウドインフラに保存することで機能します。

不正利用の高度化とデータ保持の必要性

Claude Fable 5.1のようなMythos-classモデルは、知能とエージェント能力が大きく向上していますが、その向上に伴い、不正利用と自律的な不正行動の両方の可能性が生じます。ここ数か月で、AIモデルの不正利用が試みられた実質的な証拠が確認されています。不正利用は、詐欺のような典型的な悪用から、エージェントが自律的に破壊的行動を行うことを含みうる高度なサイバー攻撃まで幅広いです。一部の事例には企業顧客の認証情報の窃取や不正流用が含まれ、これらはトラフィックを監視して異常な行動を検知できなければ発見が難しいものです。

最も高度な不正利用は複数のセッションやアカウントにまたがる多数のタスクで構成されうるため、各やり取りを個別に自動分析してすぐにデータを破棄するだけでは不十分です。効果的な検知には、時間やアカウントをまたいで相関分析できるよう、データを相応の期間保存する必要があります。Anthropicは、Fable 5から30日間のデータ保持(data retention)を導入しました。この方針は企業データで訓練したいという動機によるものではなく、Anthropicは明示的な許可なく企業データで訓練したことはなく、今後もしません。

協力した企業は概してデータ保持の安全性・セキュリティ上の価値を理解していましたが、多くの企業、特に規制産業の企業は、データ保持のあるモデルを使うのが難しいと感じていました。そこでAnthropicは顧客と協議し、ZDRのプライバシーと、時間やアカウントをまたぐ監視による安全性の両立を図る解決策を設計しました。企業は以前から内部リスク(insider risk)向けの監視を行っており、今度はエージェント向けの監視を強化するための支援を求めています。懸念は、Anthropicの自動監視システムが自社の規制基準を満たすかどうかでした。

企業にとって、データ保存(data storage)に関して新たな「信頼できるデータベンダー(trusted data vendor)」を追加することは、多くの理由から大きな負担となります。企業は、これらのベンダーが誰であるかをすべての顧客に通知し、契約を更新する必要があります。また、データの機密性が高いことから、データを安全に保存・監査するための社内要件も存在します。

こうした懸念を踏まえ、EFSは、顧客が既存のクラウドインフラにデータを保存できるように設計されています。EFSでは、顧客がデータの保存と管理を制御できます。顧客は、自分たちが管理するインフラ上に、自社の暗号鍵、アクセスポリシー、監査ログのもとでデータを置くことを望んでいます。監視に使われるアクティビティデータ(activity data)は、顧客自身のクラウドアカウント（Amazon S3、Azure Blob Storage、Google Cloud Storageなど）に保存できます。

Enterprise Frontier Safeguards(EFS)は、金融サービス、ヘルスケア、製造、通信、法律、小売、公共部門などの業界の100社を超える顧客、およびクラウドパートナーであるAmazon Web Services、Google Cloud、Microsoft Azureと緊密に協力して開発されました。この設計が業種をまたいで通用するようにするため、Comcast、KPMG、Mastercard、Salesforce、Visaなどの企業のリーダーとも協力しました。EFSは、セキュリティ、プロダクト、コンプライアンス、デリバリーの各チームなど、日常的に使う専門家からのフィードバックを受けて作られています。協力したグループの1つはAnalysis and Resilience Center for Systemic Risk(ARC)で、そのメンバーにはGoldman Sachs、Morgan Stanley、Citi、Bank of America、Wells Fargoなど米国最大級の銀行の最高情報セキュリティ責任者が含まれます。

EFSは、Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、Claude Platform on AWS、Google’s Agent Platform、Microsoft Foundryでサポートされる予定です。自動レビューの効果が高まっている現在でも、フラグを人が確認することには、実際の悪用を確かめ、誤検知を取り除くという価値があります。ただ、多くの顧客、とくに規制産業の顧客は、そのレビューを行う人が自社の人間であることを求めています。多くの顧客は、特権的な法務資料、非公開情報、医薬品安全性報告などの情報を誰が見てよいかを厳しく定めた規則の下で事業を行っており、そのチームはすでにその業務の訓練を受け、許可を得ているためです。Wellsは、自社の業界がこのセーフガードを必要としているため、その形成に協力したと述べています。重要インフラを運営する企業の声では、モデルの能力は重要ですが、データを自社のアカウント内に保てるソリューションも同様に重要であり、Enterprise Frontier Safeguardsがその点に決着をつけたとしています。

Enterprise Frontier Safeguards(EFS)には自動の安全監視があり、Anthropicによる人間によるレビュー(human review)は不要です。EFSでは、自動システムがトラフィックのローリングウィンドウ(rolling window)を分析し、深刻な悪用の兆候を探します。対象には、攻撃的なサイバー能力や生物学的能力を開発しようとする試みや、盗まれた、または漏えいした認証情報の兆候が含まれます。顧客は、複数のセッションやアカウントにまたがって進行すると検出が難しいサイバー攻撃からの保護を求めています。EFSでは、データをどのようにレビューするかを顧客が管理します。監視が注意を要するパターンを検出すると、そのシグナルは顧客に直接送られ、顧客は自動システムが検出した内容をレビューできます。自動システムが出したフラグは顧客に直接送られ、その後の対応は顧客の担当者が行います。自動レビューが効果を高めつつある現在でも、フラグを人が確認することは、実際の悪用を確認し誤検知(false positives)を取り除く点で価値があります。AIの統制は機密情報を保護するように設計する必要があり、モデルのセーフガードはその重要な一部であるとされています。ある顧客企業によると、AnthropicはEnterprise Frontier Safeguardsの開発にあたり、この企業の要件と基準との整合を確保するため、同企業に関与を求めました。

Enterprise Frontier Safeguards(EFS)は、今秋の後半から段階的に顧客へ提供される予定であり、この秋の後半に広く利用可能にすることを目標としています。アクセスを希望する場合はフォームから申請することが可能です。EFSが準備できるまでの間、対象となる顧客にはFable 5とFable 5.1でゼロデータ保持が提供されます。

銀行や各社との協力、各社の声と提供形態

ある業界団体の8つのメンバーが、システム上重要な銀行(systemically important bank)の内部で最も高性能なフロンティアモデル(frontier models)を運用するために何が必要かをAnthropicと定義しました。論点は、誰がデータを持つか、誰が鍵を持つか、自動レビュー(automated review)が何を見られて何を見られないか、どのような条件で人が見ることが許されるかです。この協力は、業界全体やそれ以外にも拡大しうる改善されたセーフガードと基準の開発・提供につながっています。

サービスパートナーはAnthropicと協力し、ポリシーレベルだけでなくアーキテクチャレベルで、新しいセキュリティ機能とプライバシー機能に取り組むことができました。サービスパートナーの声として、顧客はフロンティアモデルを活用したい一方、そのセキュリティチームはデータを自分たちが管理するインフラ内に置いておくことを求めています。AnthropicはEnterprise Frontier Safeguardsを100を超える企業とともに構築しました。サービスパートナーの声によれば、AIモデルがより規制の厳しい機微なワークロードを担うにつれ、責任ある大規模な展開はポリシー上のコミットメントだけでなくアーキテクチャにも左右されます。データ環境への直接的な管理とパターンベースの自動安全監視を組み合わせることで、企業は実際の監督、説明責任、信頼を持って展開するための具体的・構造的な能力を得られるとされています。

規制の厳しい業務を抱える企業の声として、セーフガードのアーキテクチャの重要な原則の1つは、データを保持し、モデル自体の外に置いて自社の環境内で保護できることだと述べています。この企業によると、社内や顧客の業務には規制が厳しく極めて機微な領域があり、このセーフガードによって、従来はできなかった事業部分にもAIを適用できるようになっています。サービスパートナーの声として、Enterprise Frontier Safeguardsの設計では、ログは自分たちの管理下にあり、自分たちが望まない限りほかへ送られません。また、データ、情報、そしてセーフガードを超えうる事象が検出された後の対応を、自分たちが管理できると述べています。AIが企業内でより深く組み込まれるにつれ、組織を実験から大規模な展開へ進めるのはセキュリティと信頼です。Enterprise Frontier Safeguardsは最初からそれらを組み込む予定で、監視データは顧客が管理するインフラ内に置かれ、誰がアクセスできるかは顧客自身のチームが決めます。

Wellsの事例では、ログがWellsの管理する環境内に、Wellsの管理する鍵の下で保たれます。Wellsはデータの保管管理(custody)を維持し、検出はAnthropicが運用します。この分担により、同社のチームはフロンティアモデルを安全に活用でき、顧客・従業員・規制当局に対する義務も果たせるとされています。Enterprise Frontier Safeguardsでは、顧客所有ストレージ(Customer-owned storage)、Customer-Managed Encryption Keys、完全自動のレビュー(fully automated review)の3つはそれぞれオプトインであり、組織が必要なものを有効にします。これら3つの機能はいずれも、モデルの挙動、APIの料金、レート制限を変えません。

Snowflakeは、Anthropicと提携してEnterprise Frontier Safeguardsを設計したと述べています。これは、データが顧客の環境内にとどまり、顧客が管理する鍵のもとで、Anthropicの最も高性能なモデルを初日から実行できるようにするためです。Stripeは、Enterprise Frontier Safeguardsにより、対象のフロンティアモデルを使いながら、会話ログをStripeのAWS環境内に保持できるようになると述べています。アクセスとレビューはStripeのセキュリティ制御で管理されます。Rogoは、Enterprise Frontier Safeguardsが金融機関に最も高性能なモデルを提供しつつ、金融機関が求める機関投資家水準のデータ要件を満たすと述べています。

FISは、Anthropicとのパートナーシップにはすでに、Project Glasswingを通じて最先端のフロンティアモデルを自社システムに対してテストすることが含まれていると述べています。Claude Enterprise Frontier Safeguardsはその取り組みを拡大し、保持されるデータをFIS自身のアカウントに置き、フラグをFISのセキュリティチームに直接送ります。Cognitionは、Enterprise Frontier Safeguardsにより顧客データと顧客のIDが自社の外に出ず、プライバシーとのトレードオフなしに本番業務へフロンティアAIを持ち込めると述べています。Factoryは、AnthropicとともにClaudeの最も高性能なモデルを顧客が使えるようにしつつ、顧客が独自データの管理を手元に保てるようにしていると述べ、Enterprise Frontier Safeguardsはセキュリティチームが求めるデータ保護とともにフロンティアの知能を企業に提供するとしています。法務・専門職向けサービスの提供企業は、Enterprise Frontier Safeguardsが、最も厳格な機密保持要件を持つ顧客に、モデル提供者にデータを保持されることなくフロンティアモデルへのアクセスを可能にすると述べています。

EFSの制御は、ClaudeにAnthropicから直接アクセスする場合でもクラウドパートナー経由でアクセスする場合でも、同じように機能するように設計されています。Amazon Web Services、Google Cloud、Microsoft Azureの3つのクラウドの顧客は、Claudeを利用する際に同等の制御を得られ、アクティビティデータは各自のクラウドアカウントに保存されます。これらの顧客は、すでに信頼している環境である自分のクラウドアカウントにデータを保存できます。Anthropicは、Enterprise Frontier Safeguardsの対象となる顧客にサービスを提供するサードパーティの提供形態にも対応すべく取り組んでいます。

EFSの料金とクラウド費用の負担

Anthropicは、Enterprise Frontier Safeguards(EFS)に対して料金を課しません。顧客が自身のクラウドアカウントにデータを保存することを選択した場合、そのストレージ、読み取り、書き込み、およびデータ送信(egress)の料金は、他のリソースと同様にクラウドプロバイダーが顧客に請求します。