2026
2/20
スペイン政府が、生成AIによる未成年の性的ディープフェイク問題を受け、X、メタ、TikTokの調査を検察当局に指示したと2026年2月17日に報じられた。
ロイター通信などが報じたもので、子ども5人に1人など深刻な被害を背景としている。
目次
子ども5人に1人が被害
スペイン政府は、生成AIで作成された未成年の性的画像の拡散に関与した疑いがあるとして、X、メタ、TikTokの3社について検察による調査を進める方針を示した。
政府の説明によれば、国内では子どもの約5人に1人が、自身の画像を性的に加工されるディープフェイク（※）被害を経験していると調査で判明しているという。
サンチェス首相は、「子供たちの権利を侵害し、心の健康と尊厳を傷つけている」との認識を示している。
さらにサンチェス首相は、16歳未満のSNS利用を原則禁止する法改正の検討も進めており、未成年保護を軸としたデジタル規制の強化を打ち出している。
※ディープフェイク：AI技術を用いて、人物の顔や音声などを本物のように合成・改変する技術。悪用された場合、名誉毀損やプライバシー侵害のリスクがある。
AI時代のSNS責任、規制の転機に
今回の動きは、ディープフェイク被害の実態を明らかにし、プラットフォーム規制を迫る動きの一つだと言える。
生成AIの普及により、画像改変のハードルは大幅に低下し、個人の権利侵害が大規模かつ高速に拡散するリスクが現実化している。企業には投稿監視や削除対応の高度化が求められる可能性がある。
一方で、規制強化はSNS事業者の運用コスト増加や表現管理の強化につながり、サービス設計やAI機能の提供方針に影響を与える恐れもある。
年齢制限の厳格化がユーザー基盤の縮小要因となる可能性も否定できない。
今後はEUの規制法との整合性を含め、未成年保護とイノベーションの両立が政策の焦点になると考えられる。
生成AIとプラットフォームの責任範囲を巡る議論は、各国の規制モデル形成に波及する可能性があるだろう。
関連記事:
Grokの性的画像加工が波紋 約300万枚生成と推計、実在人物と子ども被害も
あわせて読みたい
Grokの性的画像加工が波紋 約300万枚生成と推計、実在人物と子ども被害も
2026年1月22日、Xに搭載された生成AI「Grok」を悪用し、実在する人物の画像を性的に加工する被害が世界的に拡大していた実態が明らかになった。米英の非営利団体「デジ…