ドイツの裁判所が、検索エンジンやAIチャットボットの運営のあり方を世界的に変える可能性のある仮処分決定を下した。ミュンヘン地方裁判所は、GoogleのAI検索機能「AIによる概要（AI Overviews）」が生成した虚偽の記述について、グーグルに責任があるとの暫定判断を示し、検索エンジンを通じて誤った、あるいは不正確な記述の拡散を防ぐよう同社に命じた。
今回の判断の発端となったのは、ドイツを拠点とするAI専門オンラインメディア『The Decoder』が6月9日付に報じた事案だ。メディア企業2社が自社について検索したところ、GoogleのAI生成サマリーが不審な内容を表示していることに気づいた。何ら根拠もなく、自社を問題のある商慣行や詐欺、さらにはサブスクリプション関連の詐欺と結び付けていたのだ。
同記事によると、被害を受けた企業側は今年初め、グーグルに対し違法行為の中止を求める警告書（cease-and-desist letter）を送付した。
これに対しグーグルは自社の責任を否定した。自動生成されるサマリー機能には内容に誤りが含まれる可能性があるため、利用者自身が内容を確認すべきだとの注意書きが表示されており、それによって自社の法的責任は免除されると主張している。
裁判所は、グーグルの人工知能（AI）が、不正行為の疑いを指摘されていた別の企業の情報と原告企業のデータを混同した結果、検索エンジンが表示した参照元には存在しない関連付けを生み出したと認定した。
また裁判所は、従来の検索エンジンが第三者による記述へのリンクを一覧表示するにとどまるのに対し、GoogleのAI Overviewsはインターネット上の情報を誤って解釈し、「独自の新たな内容をもつ記述」を生成していると判断した。
さらに裁判所は、誤情報を訂正する責任を第三者に負わせることはできないと指摘した。AI生成サマリーを支える技術を変更できるのはグーグルだけであり、そのため「責任を負うべき立場にある」と結論づけた。
加えて裁判所は、グーグルの主張についても、問題となっているサマリーには、「検索結果にはまったく存在しない記述が含まれている」として退けた。
生成AIに責任を問う新たな司法判断
今回の裁判所の解釈は、AIが検索結果を提示する役割について新たな見方を示すものであり、この事件が歴史的な先例となる可能性もある。広く利用されるプラットフォームで提供される最先端のAI技術が及ぼす影響について、大手テック企業の責任を認めたからだ。
これまで多くの法制度では、検索エンジンは第三者が作成してウェブ上に公開したコンテンツへのアクセスを仲介するツールにすぎないとみなされてきた。そのため、表示された情報が虚偽・不正確・誤解を招く内容、あるいは名誉毀損に当たるものであっても、一定の法的保護が認められてきた。
しかしドイツの裁判所は、検索エンジンに生成AIシステムが組み込まれた場合、この保護はもはや適用されないとの判断を示した。生成AIは複数の情報源をもとに実在しない主張を生み出しうる技術である以上、それを運用する企業は、その結果として生成されたコンテンツについて責任を負うべきだというのが裁判所の考えだ。
裁判所はさらに、グーグルがAIモデルに固有のハルシネーションが起こりうるとして利用者に情報の確認を促しているものの、その注意書きによって法的責任が免除されるわけではないと判断した。
そうでなければ、虚偽の記述による被害者は事実上、救済手段を失うことになるという。問題となった記述は元の情報源には存在しないため、その情報源を相手に法的責任を問うことができないからだ。