Anthropic Cyber Missionは、ツール・研究・リソースを提供して防御者(defenders)を支援し、ソフトウェアとシステムの安全を確保することを目的としています。Anthropic Cyber Missionは、2つの領域から始まります。

これは、システムを守る防御者にツール・研究・リソースを提供し、ソフトウェアとシステムの安全を確保することを支援する、誰もが依存するシステムを守るための長期的な取り組みです。重要インフラ(critical infrastructure)分野は、電力網・水道システム・交通網の背後にある制御技術(operational technology, OT)の保護から始め、政府システムも保護します。

取り組みの背景にある脅威と課題

フロンティアモデル(frontier models)は、脆弱性の悪用やサイバー作戦に悪用されるおそれがあります。多くの技術分野が、最善の努力にもかかわらず危険なほど無防備なままです。国家が支援する敵対者(State-sponsored adversaries)は、多くの分野にわたるシステムを妨害できるようにするため、それらのシステム内に足がかり(footholds)を築くのに何年も費やしてきました。重要インフラの防御者とOSSコミュニティは数十年のセキュリティ経験を持っていますが、深刻なリソース不足に直面しており、現在の状況でそれが悪化しています。Anthropicはこの分野での彼らの専門性を認め、支援を提供すると述べています。

Anthropicは、世界の安全確保に役立てるため、新たな分野でもツール・研究・リソースを公開するよう、Anthropic Cyber Missionを拡大します。Project Glasswingでは、パートナーが多くの脆弱性を見つけましたが、サイバーリスクの十分な低減はまだ達成できていません。脆弱性の発見はこれまでになく容易になりましたが、発見結果の検証・優先順位付け・修正は依然として難しいです。そこでProject Glasswingから得た教訓に基づき、防御者を支援するための新たな取り組みを始めています。

制御技術(OT)の特性と防御の難しさ

重要インフラ分野における制御技術(operational technology, OT)は、電力網、水道事業、工場、交通網を動かすためのコントローラー、制御ソフトウェア、産業用ネットワークであり、これらは数十年使われるよう作られています。制御技術(operational technology, OT)はパッチ適用のためにオフラインにできないことが多く、既知の脆弱性が何年も未解決のまま残ることがあります。重要インフラの制御技術(operational technology, OT)の保護は専門的な作業であり、機器は独自仕様で、変更にはリスクがあり、ミスがあればプラントが停止しうるため、あらゆる規模の事業者は少数の信頼できるプロバイダーに頼っています。

CIDPの内容と創設パートナー

Anthropic Cyber Missionの一環として今回導入されたCritical Infrastructure Defense Program(CIDP)は、制御技術(operational technology, OT)を守る防御者に、フロンティアモデル、現地に派遣するエンジニア、脅威研究を提供するプログラムです。Critical Infrastructure Defense Programの創設パートナーは、事業者が制御技術(OT)の保護に頼るプロバイダーを代表しています。具体的には、セキュリティプログラムを運営するコンサルティング企業や先端技術企業、業務用・産業用ネットワークを守るセキュリティ企業、機器そのものを製造しパッチを提供するメーカーです。Critical Infrastructure Defense Programの取り組みはすでに進行中で、複数のパートナーが現在Claudeを使い、脆弱性の修正と、顧客による同様の修正の支援に取り組んでいます。Anthropicは、重要インフラの防御にはAIでは解決できない難しさが多くあるとしつつも、フロンティアモデルは、電力の遮断や水の安全性の悪化に弱点が悪用される前に、それを見つけて修復する助けになりうると考えています。Anthropicは最初の一歩として、少数のプロバイダーと協力し、どの戦略が最も効果的で実用的かを学ぶとしています。また、社名の示されていないパートナー企業の一社はコメントで、自社の制御技術(OT)と産業用サイバーセキュリティの専門性を提供し、社会が日々頼るインフラのレジリエンスを高める形でAIを適用するための実用的なアプローチの開発に協力できることを喜んでいると述べています。創設パートナーは、Accenture、Booz Allen、CrowdStrike、Deloitte、Dragos、Hitachi、Insane Cyber、Nozomi Networks、Palo Alto Networks、PwC、Rockwell Automationです。

Anthropicは、Anthropic Cyber Missionを通じて、自社のエンジニアリング人材を投入し、重要インフラとオープンソースソフトウェア(OSS)を守る人々にツールと資金を提供します。パートナー企業のコメントによると、制御技術(OT, operational technology)はAIによる自律的な攻撃の次のフロンティアであるといいます。パートナー企業のコメントによると、Critical Infrastructure Defense Programは、民間セクターの最良のイノベーションと投資を結集し、連邦政府と民間の双方の任務にわたってOTとICSのレジリエンスを強化するものです。同じコメントによると、問題はもはやAIが産業プロセスに影響を及ぼせるかどうかではなく、どれだけの制御権を、どれだけ速く握れるかだといいます。

パートナー企業のコメントによると、AnthropicのCritical Infrastructure Defense Programへの参加は、フロンティアAIを、電力を保ち、水を安全にし、交通を動かし続ける制御技術(OT)の実態を軸にした集団防衛戦略に沿わせる方法の一つです。CrowdStrikeは、攻撃者がAIを使ってより速く、より大規模に動く中、機械の速度の脅威に直面する重要インフラには機械の速度の防御が必要だと述べています。Deloitteは、AIが加速する中で、重要インフラの事業者には機械の速度でセキュリティ脆弱性に対処するソリューションが必要だと述べており、Anthropicとともに、重要インフラの事業者がセキュリティギャップを埋めレジリエンスを強化するために必要なイネーブルメント(enablement)を提供し、フロンティアAIの現実に歩調を合わせて進めているとしています。Palo Alto Networksは、Unit 42の脅威インテリジェンスと運用の専門知識をAnthropicのフロンティアモデルと組み合わせることで、重要サービスを攻撃・妨害しようとする攻撃者から事業者が防御するのを支援しており、防御側に、攻撃にさらされる弱点(exposure)が実害(impact)になる前に攻撃経路を塞ぐために必要な速さと精度を与えているとしています。パートナーのコメントによると、AIが進歩を続ける中、AIは重要インフラ全体のサイバーセキュリティを強化する重要な機会をもたらしますが、それは責任ある適用、厳格な検証、安全性と信頼性を最優先にした展開が条件となります。フロンティアAI(Frontier AI)は、単一の組織が単独では追いきれない速さで進化しており、寄稿者は、そのことがCritical Infrastructure Defense Programが重要である理由だとしています。パートナー企業のコメントによると、重要インフラとそれに頼る人々は、ベンダーコミュニティがAIが運用環境にもたらす機会と課題について学んだことを、知見を縦割り(silos)に留めず共有するときに利益を得ます。パートナー企業のコメントによると、AIの急速な進化とサイバー脅威の高度化・高速化が進むなかで、社会インフラを支えるOT環境のサイバーセキュリティを確保することは、現在社会が直面する最優先事項の一つになっています。このほかAnthropicは6月に、州・地方・部族・準州(state, local, tribal, and territorial)政府向けのサイバー防御プログラムを開始しました。それ以降、Anthropicは米国の州の半数超と、米国最大級の公共の重要インフラ事業者の一部に、最先端のClaudeモデルと技術支援を提供しており、コードスキャンとパッチ適用、インシデント対応、レッドチーミングなどのセキュリティ業務の高速化に使われています。重要インフラの分野でのAnthropicのアプローチは、重要インフラを最もよく知り、事業者が信頼する企業・連合・政府・非営利団体と協力し、最も必要とされる場所で支援を提供することです。Palo Alto Networksのコメントによると、脅威アクターはAIを使って、機械の速度で、攻撃にさらされる弱点(exposures)を見つけて悪用しています。パートナーのコメントによると、Critical Infrastructure Defense Programは、重要インフラの環境を理解している人々と、そのインフラを守るために現在利用できる最先端のAI能力を結びつけるものです。パートナーのコメントによると、遠隔地の変電所、洋上プラットフォーム、エアギャップされたプラントなど最も保護が必要な拠点は、従来のツールが届かず専門家も常駐できない場所です。どのチームにも処理しきれない量のデータと、どのチームにも人員を配置しきれない数の拠点という、処理に要する時間の問題が未解決でしたが、Claudeはこの隔たりを埋め、アナリストと顧客の事業者が重要システムを安全に稼働させる判断に時間を使えるようにします。CrowdStrikeは、重要インフラはサイバーリスクが現実世界のリスクになる領域であると述べています。PwCのサイバーOT部門は、重要インフラ組織との仕事を通じて、こうした環境でサイバー侵害が招く結果の重大さを目の当たりにしてきたとしています。コメントした人物は、脆弱性の特定、リスクの低減、重要システムのレジリエンス強化には、業界全体で協調した取り組みが必要だと確信していると述べています。Accentureは、電力・医薬品の安全・食料供給・通信を維持する組織は、世界でも特に重大なサイバーリスクに直面していると述べています。そのうえで、OTセキュリティの深い専門知識を重要インフラを守る組織に提供することを約束し、このパートナーシップはAIを活用した防御を最も必要とする人々の手に届ける助けになるとしています。別のパートナー企業は、プログラムへの参加を通じて、Anthropicや他のパートナーと協力し、重要インフラのサイバーレジリエンスをさらに高めることを期待しています。

Critical Infrastructure Defense Program(CIDP)の拡大にあたり、重要インフラ向けのセキュリティ製品やサービスを開発する企業（セキュリティベンダー、システムインテグレーター、機器メーカーを含む）は、同プログラムへの関心を登録できます。

OSS分野の取り組みとOSS Scanner

オープンソースソフトウェア分野では、ほとんどのソフトウェアが依存する、自由に使える共有コードで脆弱性を見つけてパッチ(patch)を提案し、基盤となるコードを堅牢化(hardening)することを目指します。ほぼすべてのソフトウェアはオープンソースソフトウェアのコードに依存しており、その多くは小規模なボランティアチームが保守しています。Project Glasswingでは、広く使われている数百のオープンソースプロジェクトをスキャンしました。見つかった潜在的な脆弱性の多くは人間がトリアージ・レビューし、結果は協調的脆弱性開示(CVD)の手続きでメンテナに非公開で報告しました。

Anthropicは、高いサイバー能力を持つAIモデルが、現在は攻撃者にも広く利用可能になっていると述べています。一方で、Anthropic自身のものを含む防御用ツールは、それを必要とする防御者にまだ十分に届いていません。

Anthropicは、防御側へのツール普及に向けた取り組みとして、OSS Scanner、Cyber Verification Program、パートナーがAnthropicのプラットフォーム上で構築する防御用製品、およびClaude Securityを提供しています。Anthropicは、他の取り組みも可能な限り早く追加するとしています。

Anthropicは、オープンソースプロジェクトに対して、同社の最も強力なモデルによる定期的なセキュリティスキャンを無料（for free）で提供するOSS Scannerを公開しました。OSS Scannerの各レポートには、バグがどう悪用され得るかを示す概念実証(proof of concept)、説明、そして修正案がある場合はその提案が含まれます。OSS Scannerのレポートはモデルが生成し、人間のレビューなしで送られるため、メンテナはより速く受け取れますが、深刻度(severity rating)の誤りなど不正確な内容を含むものもあります。OSS Scannerは、表に出てきた検出結果に対応し続ける体制を持つプロジェクトを対象としたサービスです。大規模にトリアージできる体制を持つ一部のメンテナが、レビューの有無にかかわらず、モデルが自分のプロジェクトで見つけたものをすべて求めました。これに応えて公開されたのがOSS Scannerで、GoogleのOSS-Fuzzに着想を得た、オプトイン型のサービスです。Anthropicは真陽性率を90%超と見込んでおり、今後も真陽性率と修正の質の改善に取り組むとしています。検出結果に対応し続ける体制を持たないプロジェクトには、引き続きCVDポリシーに基づき、人間が検証した開示を共有します。このほか、メンテナは、Claude Maxのサブスクリプションの無償提供を受けるために「Claude for Open Source」に、防御目的でClaudeのサイバー能力をより広く使うために「Cyber Verification Program」に、それぞれ申請できます。

脆弱性を悪用するコストが下がった一方で、脆弱性(vulnerability)の検証・開示・修正は遅く、依然として人に依存しています。Project Glasswingでは、脆弱性が見つかってから修正されるまでに数か月かかることがよくありました。制御技術(operational technology, OT)では、稼働中の機械に安全に適用できるようになるまで修正を待たなければならないことがあり、ごくまれなケースでは数十年かかる可能性があります。Anthropicの予測では、2年後にはAIは防御側に有利になります。リリース前にバグを見つけやすくなり、根本的に安全なソフトウェアをゼロから書けるようになり、モデルでシステムを能動的に防御できるようになりますが、短期的にはそうならない可能性があります。

今週初め、AnthropicはProject Glasswingを、拡大されたCyber Verification Programに統合しました。このプログラムにより、これまでよりはるかに多くの防御者がAnthropicの最も高性能なモデルにアクセスできるようになります。重要インフラの運用者やオープンソースのメンテナーを含め、規模を問わないセキュリティチームは、拡大されたCyber Verification Programに申請することで、Anthropicのモデルへのアクセスを得るために申し込むことができます。重要なオープンソースプロジェクトのコアメンテナーは、OSS Scannerに登録できます。

8月に立ち上げられたDefender Advantage Fund(0xDAF)は、前述の分野(発見の迅速化、修正の加速、新しい安全なアーキテクチャの探索など)でのパイロットプログラムを支援しており、OSS Scannerを無償のまま維持しています。今後の目標として、OSS Scannerをより多くのプロジェクトに広げる一方で、人間が検証した開示を必要とするプロジェクトにはそれを継続します。また、希望するプロジェクト向けに、現状ではまだ大部分が手作業であるトリアージとパッチ適用を自動化することを目指しています。さらに、パッチ適用より踏み込みたいプロジェクト向けに、コードの堅牢化や書き直しの手法を研究し、共有します。Anthropicは、Python Software Foundation、Linux Foundationを通じたAlpha-OmegaとOpenSSF、Apache Software Foundationなど、広く使われているオープンソースのコードを支える組織に資金を提供しました。また、メンテナに負担が集中しないよう、多くの情報源からの脆弱性報告を集めて調整するAkritesとGold Eagleも支援しています。前述の今後の目標に向けた取り組みは、オープンソースのメンテナや財団の助言に基づいて進め、他のプロジェクトがまねできるよう、うまくいった方法を共有します。

Anthropicは、オープンソースとより広いサプライチェーンの安全確保を支援する取り組みも拡大します。これには、ソフトウェアの新しい書き方とシステムの新しい防御方法の研究が含まれます。他者がソフトウェアとサプライチェーンを守る助けとなるよう、フロンティアの研究、ツール、リソースを共有するつもりです。

成功の定義と今後の展開

Anthropicは成功を、水道・電力・交通・通信といった重要インフラが、能力の高い敵対者の攻撃を受けても稼働し続けることと定義しています。これには、侵入に使える経路が減ることや、攻撃を許してしまった場合の復旧が早まることも含まれます。この取り組みには数年かかると述べており、官民とともに何が有効かを学ぶにつれて、Anthropic Cyber Missionも変わっていくと見込んでいます。また、他のAI開発企業、セキュリティ企業、政府が独自の取り組みを行うと見込んでおり、防御者の助けになる限り、それらと協力したいとしています。今後数か月で、Critical Infrastructure Defense Programをより多くのパートナーと分野に広げ、うまくいかなかったことも含めて、途中で学んだことを共有します。