2026年01月14日 12時50分
AI
Xで問題視されている生成AI「Grok」を使って女性や子どもの画像を編集するディープフェイクについて、インド・フランス・マレーシアの当局がGrokに関する調査を開始していたり、1月10日にはインドネシアがGrokをブロックしていたりとさまざまな対応を見せています。イギリスのメディア規制当局であるOfcomは2026年1月12日に、イギリスのオンライン安全法に基づいたXに対する正式な調査を開始したことを発表しました。
Ofcom launches investigation into X over Grok sexualised imagery
https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/ofcom-launches-investigation-into-x-over-grok-sexualised-imagery
UK pushes up a law criminalizing deepfake nudes in response to Grok | The Verge
https://www.theverge.com/news/860881/uk-ai-x-grok-law-criminalizing-deepfake-nudes-ai
X上におけるGrokによるヌードや児童性的虐待に相当する可能性のある画像作成と共有の報告を受けて、Ofcomは2026年1月5日にXと連絡をとり、「イギリスのユーザーを保護する義務を順守するためにどのような措置を講じてきたか」を説明する要求をしました。XはOfcomが起源と定めた1月9日までに回答し、Ofcomは緊急に入手可能な証拠と合わせて迅速な評価を実施しています。
Ofcomが正式な調査を実施した具体的な内容は以下の通り。
・イギリスのユーザーがイギリス国内で違法とされているコンテンツを目にするリスクを評価し、サービスに重大な変更を加える前に最新のリスク評価を実施する。
・イギリスのユーザーが同意のない性的画像や児童性的虐待(CSAM)を含む「優先的な違法コンテンツ」を閲覧できないように適切な措置を講じる。
・違法コンテンツに気づいたらすぐに削除する。
・プライバシー法違反からユーザーを保護することに配慮する。
・イギリスの子どもたちにサービスが及ぼすリスクを評価し、サービスに大きな変更を加える前に最新のリスク評価を実施する。
・イギリスの子供たちをポルノから守るために、効果的な年齢保証システムを導入している。
Ofcomは自らの役割について「検閲機関ではないので、特定の投稿やアカウントの削除をプラットフォームに指示することはない」と明言しています。しかし、調査の結果企業が法令に違反していることが判明した場合、オンライン安全法に基づいて法令遵守のための具体的な措置を求めるか、違反によって生じた損害の救済として最大約1800万ポンド(約38億円)または全世界売上高の10％のいずれか高い方を罰金として科すことができます。さらに、最も深刻な不遵守が継続する場合、裁判所に「事業妨害措置」を申し立てることができます。
Ofcomの広報担当者は 「Xにおいて、Grokが違法な非合意の親密な画像や児童性的虐待コンテンツの作成・共有に利用されているという報告があり、深刻な懸念を抱いています。プラットフォームは、イギリスで違法とされるコンテンツからイギリスの人々を保護しなければなりません。特に児童に危害を及ぼすリスクがある場合、企業がその義務を怠っていると疑われる場合は、すぐに調査を行います。私たちは、適正手続きを遵守しつつ、この調査を最優先事項として進めていきます。イギリスの独立したオンライン安全執行機関として、私たちの調査が法的に強固で、公正な判断に基づいていることを確証することが重要です」と語りました。
さらに、Ofcomが調査開始を発表した少し後には、与党・労働党の党首であるキア・スターマー首相が「X社がGrokを制御できないなら、我々が制御する」「Xが自己規制の権利を失う可能性がある」という旨を労働党職員らに対し警告したとBBCが報じました。BBCによると、イギリス政府はディープヌードを作成するために使用されるオンラインツールの提供を違法とする法案も発表する予定であるとのこと。
一方で、野党・保守党のジェイコブ・リース＝モグ議員は、「何百万人もの人々が毎日利用する主要プラットフォームへのアクセスを遮断すると政府が脅すとき、それはもはや法律を執行しているのではなく、議論を止めようとしているのです」とOfcomおよびイギリス政府の動きを批判しています。
この記事のタイトルとURLをコピーする
・関連記事
Grokがマレーシアでも利用不可能に、X(旧Twitter)での合意のない性的コンテンツ生成が原因 – GIGAZINE
Xでも使える生成AI「Grok」の画像編集機能で子どもや女性の性的画像が生成可能な問題を受けインド・フランス・マレーシアの当局が調査を開始 – GIGAZINE
インドネシアがGrokへのアクセスをブロックした最初の国に、合意のない性的画像の拡散が理由 – GIGAZINE
Grokが毎時約6700枚の性的画像を生成しているとの指摘、Grok生成画像の85％は性的 – GIGAZINE
「GrokとXのアプリをAppleとGoogleのアプリストアから削除せよ」という公開書簡をアメリカの政治家たちが送付、理由は「違法な性的画像を大量生成しているため」 – GIGAZINE