Anthropicは、Claude Fable 5の生物学分野の安全対策(biology safeguards)を更新し、誤検知(false positives)を大幅に減らします。この更新により、Fable 5はより幅広い生物学のタスクを支援できるようになります。また、医療従事者は、臨床タスクにおいてFable 5からより多くの支援を受けられるようになります。

Fable 5の利用者が生物学関連の質問をした後、システムが性能の低いモデルに切り替わるフォールバック(fallback)が、今後は大きく減ります。テストでは、Fable 5の生物学分野の安全対策の更新により、プロダクト全体で生物学関連のフォールバックが約85%減少しました。

一方、現時点でも、Fableは、ウイルス学、毒性学、分子設計などデュアルユース(dual-use)とみなすリクエストについては、Opus 5にフォールバックします。そのため、専門的な生物学の研究や創薬にはまだ使えません。

生物学分野で管理が必要なリスク

Fable 5のような高性能なモデルには、増大するリスクが伴うため、そのリスクを管理する必要があります。生物学のリスクとして、Fable 5は非常に複雑な生物学タスクの一部で専門家を上回ることができ、別の一部では実運用上の支援を提供できます。新しい医療的治療法を開発する研究者に対しては、本物の支援を提供できます。このため、分類器(classifier)の改善と信頼されたアクセスプログラム(trusted access programs)の両方でモデルへのアクセスを広げることに強く意欲を持っています。

一方で、悪意のある者の手に渡れば、同じ能力が生物兵器の開発などに使われる可能性があります。能力評価では、Fable 5はそうした者に大きなアップリフト(uplift)を与えうることが示されています。アップリフトとは、他では得られない能力を与えることです。また、害を及ぼす目的でモデルを使おうとする高度な能力を持つ主体は、生物学におけるAIの有益な使い方と有害な使い方の区別がつきにくいという曖昧さを利用して意図を隠し、危険なタスクを通常の研究活動に見せかける方法を知っています。

生物学におけるAIの有益な使い方と有害な使い方は、見分けにくいことが多いです。例えば、病気の治療法の研究では、その病気を引き起こす危険な化合物を科学者が作る必要がある場合があります。生ワクチンは、予防対象と同じ病原体を科学者が培養する必要があるため、病気を引き起こすものを作る必要がある例として最もわかりやすいです。一部の医薬品も同様です。高血圧の治療薬captoprilの開発では、科学者は人間の血圧を急落させるヘビ毒の有毒成分を単離しました。

米国インテリジェンス・コミュニティの2026年版Annual Threat Assessmentは、モデルを使って害をなそうとする高度な主体が存在することを明らかにしています。同評価は、合成生物学やゲノム編集を含むバイオテクノロジーの進歩が「新たな生物学的脅威につながる可能性がある」としています。また、同評価は複数の国家主体が攻撃用の生物・化学兵器計画を活発に維持している可能性が高いと指摘しています。こうした計画は、フロンティアAIモデルの生の能力へのアクセスによって加速されうるものです。AIのフロンティアで新しい生物学能力が発展するなか、新たなリスクが科学的な利益より先に現実になることがないよう、慎重である必要があります。

分類器の仕組みとリリース時の判断

Anthropicは、Fable 5の生物学分野での悪用を防ぐ中核的な方法の1つとして、分類器を用いています。分類器は小型の自動化されたAIシステムで、Fable 5が保護対象の生物学タスクを実行するよう求められたとき、または有害な出力を生成したときに、それを検出します。この分類器は、以前に記事で書いたサイバーセキュリティ分野の分類器と同様の仕組みです。

Fable 5では、分類器が作動すると、モデルはユーザーのリクエストをOpus 5に振り向けます。Opus 5は高性能なモデルですが、Fable 5と同水準の生物学的能力はなく、悪意のあるユーザーへの支援はFable 5ほどできません。リクエストがブロックされたときにユーザーが目にするのは、このフォールバックです。

精度が高く頑健な分類器の開発は簡単な作業ではありません。分類器が素早く一貫して機能するためには、有害となりうるトピックやクエリについて、何を「対象範囲内(in scope)」とし何を「対象範囲外(out of scope)」とするかの違いを学習する必要があります。また、回避の試みであるジェイルブレイク(jailbreak)に対して頑健であることも求められており、そのためにはさらなる研究とテストが必要です。

Anthropicは、有益な目的にも有害な目的にも使われうる能力であり、両者の線引きが常に容易とは限らないものをデュアルユースの能力と呼んでいます。

Anthropicは、デュアルユースの能力に関する懸念から、Fable 5を生物学クエリをほぼすべてブロックした状態でリリースしました。これにより、他の分野の利用者にモデルを提供できるようになりました。

Anthropicは、非常に広範な生物学の分類器を用いた状態で、Fable 5の提供を開始しました。これが正当な生物学の利用者にとって不満になることは、あらかじめ分かっていました。これは、短期的に誤検知が多くなり、生物学関連の質問をした利用者のリクエストがブロックされ、性能の低いモデルに送られるためです。Anthropicは、非常に広範な生物学の分類器から始めることで、分類器を改良する研究を続けながら、ユーザーにFable 5へのアクセスを提供できました。代替案は、安全対策がはるかに進むまでモデルを保留することでしたが、その場合はモデルの一般提供とユーザーにとっての潜在的な利点が数週間から数か月遅れていました。

安全対策がはるかに進むまでモデルを保留するという代替案をとった場合、モデルの一般提供とユーザーにとっての潜在的な利点は、数週間から数か月遅れていたことになります。

constitution書き直しと再訓練の経緯

分類器の調整には時間と反復が必要であり、対象範囲外の内容に分類器が作動する誤検知と、対象範囲内の内容を見逃す偽陰性(false negatives)の両方を避ける必要があります。Anthropicは過去数週間にわたり、分類器のconstitutionを慎重に書き直しました。constitutionは、安全対策の対象となる内容と許可される内容をモデルが見分けるためのルールの集まりです。この書き直しでは、無害な用途を分類器の対象から外すよう詳細に切り分けました。

Anthropicはconstitutionの変更について、Anthropic内外の多様な専門家からフィードバックを募りました。その後、constitutionに基づく更新版の訓練データを作成して分類器を再訓練しました。その結果、新しい分類器が有害なものやデュアルユースの研究生物学コンテンツには引き続き概ね作動する一方、より広範な無害で有益な用途を可能にすることを確認しました。

Anthropicは、Fable 5において生物学分野の分類器を更新しました。Anthropicは、新しい分類器が有害およびデュアルユースの生物学研究のコンテンツには引き続き概ね作動することを確認しました。

Anthropicは、constitutionに基づいて分類器の訓練データを更新して再訓練しました。その結果、Fable 5のローンチ時と比べて、生物学に関連する無害なリクエストで分類器が作動する件数は大幅に減り、より幅広い無害で有益な用途が可能になります。また、日常的な健康や教育に関する質問でのフォールバックも大きく減るはずです。

残る課題と今後の取り組み

安全対策の改良には、まだ多くの作業が残っています。リクエストが分類器の安全マージンの内側にあり、リスクが非常に低いにもかかわらず、分類器が作動する誤検知は、今後も避けられず残ります。

Fableは、デュアルユースのリスクがありうるため、専門的な生物学や創薬に関するデュアルユースのクエリを今後もブロックし続けます。研究者が信頼できる利用者向けのアクセス経路(trusted access pathways)を通じて最も高性能なモデルを使うための、安全で拡張可能な道筋の開発に全力で取り組んでいます。また、安全対策をさらに改善できるよう、引き続きフィードバックを共有してほしいと呼びかけています。