Anthropicが対話型AI「Claude」で、機械判読可能な不可視ウォーターマーク付きテキストと、署名入りファイル・プロベナンスを世界的に導入した。約190の署名団体が支持するEUルールに沿った取り組みだが、ユーザーの間では反発も強まっている。
主なポイント
Claudeが生成するテキストには、コピー＆ペーストしても残る機械判読可能なウォーターマークが埋め込まれ、対応ファイルには署名付きプロベナンス・メタデータが付与される。
このポリシーは、サポート対象のClaudeモデルに対し世界共通で適用され、旧モデルについても移行期間中に順次対応が進められている。
校正やコーディングのように、人間が主体となって作成したコンテンツでも、Claudeが関与しただけでAI生成としてフラグが立つ恐れがあるとの批判が出ている。
Claudeのウォーターマーク導入
Anthropicは8月11日、EUのAI法における透明性フレームワークへのコミットメントの一環として、マーキングの仕組みを公表した。8月2日以降にEUでローンチしたClaudeモデルは当初からマーキングに対応しており、同社はそれ以前のモデルにも対応を拡大している。
今回の仕組みでは、生成テキストそのものの中に、人間には知覚できないウォーターマーク信号を埋め込む。一方、SVG、PNG、JPGなど対応ファイルには、デジタル署名付きのC2PAプロベナンス・メタデータが付加される。Anthropicは、このテキスト用マークは意味・品質・可読性を変えないとしている。Forbesによれば、ユーザー側でマーキングをオプトアウトすることはできない。
ただし、このマークには限界もある。大幅な編集や言い換え、翻訳、他の文章との混在などを行うと、テキスト中の信号は検出不能になり得る。また、ファイルの形式変換や再保存、スクリーンショット化などによって、プロベナンス・メタデータが失われるケースも想定される。
関連記事: XRPが1ドル割れの一方で、クジラは静かに3.8億トークンを買い増し
ユーザーからの反発
この発表を受け、XやReddit上では批判的なコメントが相次いだ。特に、Claudeを文章校正に使うユーザーや、コードレビューや生成など開発用途で利用するエンジニアの間で、「人間が主体で書いたコンテンツにまで、AIの透かしが付くのではないか」との懸念が広がっている。反応は発表直後から急速に拡大した。
ラジオ司会者でブロガーのErick Erickson氏は、Claudeに校正を頼んだだけで、自身が書いた文章全体にウォーターマークが付くのは「ばかげている」と批判した。
こうした懸念は、Anthropic自身が示したガイダンスの前提にも関わる問題だ。同社によれば、ウォーターマークが検出された場合、それは「Claudeがそのコンテンツを処理した可能性」を示すものであって、「Claudeがオリジナルの著者であること」を証明するものではない。具体的には、校正、翻訳、要約、ファイル変換といった作業でも、元のコンテンツが人間や他のシステムによって作られたものであっても、Claudeが関与すればマーク付き出力になり得ると説明している。
EUの実務規範自体は拘束力のない任意のコードだが、AI法第50条の透明性要件は8月2日から法的効力を持つようになった。7月末時点でGoogle、Meta、Microsoft、OpenAI、Anthropicなど約190団体がこのコードに署名している。
変化はClaudeにとどまらない。OpenAIも、対応画像向けにC2PAメタデータとSynthIDウォーターマーク、対応音声向けにSynthIDを採用している。ただし、現時点で一般公開されているプロベナンス検証ツールは、検出可能なフォーマットとしてテキストを含んでいない。
次に読む: Apple PayトップのJennifer Bailey氏が退任、在籍25年に幕
アレクセイ・ボンダレフは Yellow.com のコンテンツ責任者であり、過去 10 年間にわたって暗号資産分野を取材してきました。彼は、分析的な報道、業界コンテクスト、そして AI 時代やセキュリティ技術からフィンテック・イノベーションに至るまで、暗号資産を形作るより大きな力に焦点を当てた、詳細なリサーチ記事やラーニング記事を専門としています。彼は「デジタルなものがアナログなものを間もなくすべて凌駕する」と信じており、その実現のために日々努力を続けています。