OpenAIはすでに、自社モデルが生成した画像と音声を識別するツールを公開しています。今回は、EU AI Actへの対応として、テキストの透かし(text watermarking)への取り組み方と、それがより広い取り組みにどう位置づくかを共有します。EU AI Actは、生成AIの提供者に対し、生成したテキストを機械可読な方法で識別できるようにすることを求めています。
テキストの透かしと検出は初期段階の技術であり、大きな限界があります。その利点や責任ある使い方についての見方もまだ形成途上にあります。
APIとChatGPT・Codexでの導入方針
OpenAIの段階的なアプローチは、EU AI Actの要件と技術の限界の両方を反映しており、テキスト透かし(text watermark)が人々に何を伝えられて何を伝えられないかについての透明性を重視しています。現在の技術の限界の範囲内で透明性を高めることを掲げており、技術、標準、エビデンスの進展に応じて、このアプローチの各部分を見直すことを想定しています。10月5日から、世界中のAPIの顧客は、一部のモデルについて透かし入りのテキスト出力をオプトインで利用できます。APIではテキストの透かしは引き続きデフォルトでオフです。顧客は、透かしを自社の透明性の義務や利用者に提供する体験にどう組み込むかを決められます。クラウドパートナー経由でアクセスされるOpenAIモデルの出力についても、今後数週間のうちに透かしを利用可能にするため、クラウドパートナーと取り組んでいます。
今後数週間のうちに、欧州連合(EU)において対象となるChatGPTとCodexのテキスト出力に、目に見えない透かし(invisible watermark)を追加します。導入はEU内に限られ、プランを問わず、対象となるユーザーに適用されます。開始時点ではグローバルなデフォルトにはせず、この地域限定のやり方により、実際の利用とフィードバックから学ぶ余地を得られるようにします。
検出器へのアクセスと対象者
OpenAIは、テキスト透かし検出器(text watermark detector)へのアクセスの申請受付を開始しましたが、アクセスは当初、この技術の評価と改善に協力できる、承認された研究者と専門組織に限られます。検出器へのアクセスを当初、承認された研究者と専門組織に限るというこの制限は、テキストの来歴(text provenance)にのみ当てはまります。音声と画像の検証ツール（openai.com/verify のウェブツールとContent Provenance APIを含む）は、画像または音声ファイルがOpenAIのシステムで生成されたかどうかを知りたい組織に対して、引き続き一般公開されます。
承認された研究者(approved researchers)と専門組織(expert organizations)は、10月5日から検出ツールへのアクセスを申請できます。Code of Practiceに従い、テキストの来歴の評価と改善を支援するため、このアクセス権は当初、個別審査(case-by-case)で付与されます。検出ツールは、OpenAIの透かしを検出したかどうかを報告しますが、利用者の特定や、プロンプト・会話の開示は行いません。
textGrainの仕組みと評価、検出の限界
OpenAIのテキスト透かし技術であるtextGrainは、モデルの単語選択に目に見えない統計的なシグナルを加えます。検出器はそのシグナルを探して、文章にOpenAIの透かしが含まれるかを判定します。検出器の誤りには2種類あり、透かしがないのにあると報告する偽陽性(false positive)と、透かしがあるのに見逃す偽陰性(false negative)があります。
OpenAIの評価では、textGrainはSynthID for textを含む、試した他の手法と同等かそれ以上の性能を示しました。ただし、理想的な条件での高い性能が、日常的な使用での信頼できる検出を保証するわけではありません。OpenAIの筆者らは、自分たちが行った評価の結果がいくつかの課題を例示していると述べています。短い文章や制約の多い文章は検出しにくく、目標とする偽陽性率1%において、心理学などの内容では、検出器は200トークンの文章の約80%、400トークンの文章の約95%で透かしを特定しました。一方で、数学など単語選択の自由度が小さい内容では、検出率は大幅に低くなりました。
OpenAIは、最新のフロンティアモデルであるAstraを評価するために使っているベンチマーク全体で、テキストの透かしの有無による意味のある性能差は見られないとしています。textGrainの仕組みの詳細は技術レポートにあり、今後数週間で詳細が追加される予定です。またOpenAIは、他者が発展させられるよう、この技術をオープンソースで公開する計画も持っています。
透かしなし／透かしありの結果（Astra、max）は、総合・エージェント系では、Artificial Analysis Intelligence Indexが49.57／49.76ポイント、AutomationBenchが34.09%／34.86%、BrowseCompが87.92%／87.35%です。
コーディング系では、DeepSWE v1.1が72.80%／71.68%、Terminal-Bench 4.0が53.90%／56.06%、Terminal-Bench Science 0.1が56.90%／60.00%です。
| ベンチマーク | Unwatermarked text (Astra, max) | Watermarked text (Astra, max) |
|---|---|---|
| Artificial Analysis Intelligence Index | 49.57 points | 49.76 points |
| AutomationBench | 34.09% | 34.86% |
| DeepSWE v1.1 | 72.80% | 71.68% |
| Terminal-Bench 4.0 | 53.90% | 56.06% |
| Terminal-Bench Science 0.1 | 56.90% | 60.00% |
| BrowseComp | 87.92% | 87.35% |
| HealthBench Professional | 64.27% | 64.60% |
| GPQA Diamond | 94.44% | 93.94% |
元記事の表を転載しています(見出しは日本語にしています。値は原文のままです)。出典: 元記事
その他では、HealthBench Professionalが64.27%／64.60%、GPQA Diamondが94.44%／93.94%です。
コンテンツの来歴(content provenance)は、コンテンツがどこから来たのか、どのように作成・編集されたのか、OpenAIのモデルに関連するシグナルが含まれているかどうかを人々が理解する助けになります。選挙に関するセーフガードの取り組みで説明したとおり、来歴(provenance)は、ディープフェイクを含む、誤解を招くおそれのあるAI生成コンテンツを人々やプラットフォームが評価するのに役立ちます。
テキストを編集すると、テキスト透かしが弱まることがあります。400トークンの文章の評価では、10%の単語を類義語に置き換えると検出率が約92%から66%に下がり、25%の単語を置き換えると17%に下がりました。
透かしの見逃し（偽陰性）と偽陽性のリスクがあるため、検出ツールは開始時点では一般には公開しません。400トークンの文章の評価では、単語の25%を類義語に置き換えると透かしの検出率が17%に下がりました。このような限界が一因となり、検出ツールへの当初のアクセスは、信頼性と責任ある使い方の評価に協力できる、承認された研究者と専門組織にのみ提供されます。
透かしで分かることと分からないこと
テキスト透かしは、ある文章に対して自社システムが果たした役割についての限定的なシグナルを与えるにすぎません。検出結果から何が結論でき、何が結論できないかを理解することが重要です。
透かしは人間の寄与を測るものではありません。OpenAIのシステムが文章の一部を生成または処理したことは示せますが、その文章に人間の判断・編集・創造性がどれだけ入ったかは示しません。
透かしは所有や責任を確定せず、テキストの所有者、その利用が適法だったか、開示が必要だったか、誰が責任を負うかを決めるものではありません。また、利用者も特定しません。個人、組織、アカウント、プロンプト、会話をそのテキストに関連付けることはありません。
さらに、透かしは正確性を検証しません。文章が真実か、誤解を招くか、有害か、適切な文脈で提示されているかは分かりません。
透かしが検出されなかったことは、人間が書いたことの証明になりません。OpenAIのツールで生成したテキストでも、短すぎる場合や、編集された場合、または翻訳された場合は、検出が確実に機能しないことがあります。また、未対応のモデルの出力、透かし導入前のテキスト、他社のツールで生成されたテキストの場合もあります。
来歴の多層的な取り組みと今後
来歴の手法は単独では十分でないため、オープンスタンダード、耐久性のある透かし(durable watermarking)、検証ツールを組み合わせた多層的なアプローチが取られています。OpenAIは対応する画像出力にContent Credentialsを付与しており、C2PAに準拠しています。また、対応する画像と音声には不可視のSynthID透かしが埋め込まれています。Content Credentialsはファイルの出所と履歴を記録でき、不可視の透かしはメタデータが削除されてもシグナルを保持できるため、二つの手法は互いを補完します。
来歴に関する取り組みでは、こうしたシグナルを、ポリシー、不正利用の検出、報告、調査、執行(enforcement)と組み合わせて運用しています。また、研究者、標準化団体、プラットフォーム、市民社会と協力し、来歴がより広いエコシステム全体で役立つようにしています。来歴をテキストに拡張するには、テキストが書き換え・翻訳・編集されやすいことを考慮する必要があります。6月に述べたとおり、テキストの来歴へのアプローチは、現在の技術の実用上の限界を反映したものでなければなりません。
OpenAIは、今後も検出の改善、透かしが編集や翻訳にどの程度耐えるかの研究、そしてAIによる支援(AI assistance)とAIによる執筆(AI authorship)をより意味のある形で区別する方法の模索を続けます。また、証拠、標準、規制要件の変化に応じてアプローチを適応させるとともに、結果を責任ある形で解釈できると判断した時点で、検出器(detector)へのアクセスを拡大します。