欧州委員会は、調査中であるTikTokの“中毒性のあるデザイン”について、デジタルサービス法(DSA)に違反しているという予備的な判断を下した。
欧州委員会は、TikTokが中毒性のあるデザインについて十分な評価を行なっておらず、効果的なリスク軽減措置を講じていないと指摘。「サービスの基本的なデザインを変更する必要がある」という見解を示した。
仮に違反が確定すると巨額の制裁金につながる可能性がある一方、予備的見解は最終的な調査結果を予断するものではないともしている。今後TikTokには反論する権利と機会が与えられる。
“思考停止”に追い込むデザイン
中毒性のあるデザインには、TikTokが採用している無限スクロール、自動再生、プッシュ通知、高度にパーソナライズされたレコメンダーシステムなどの機能が含まれる。
欧州委員会が問題視している、未成年者や「脆弱な大人」(vulnerable adults、情報リテラシーの低い人だけでなく、一時的なものを含めた精神的・認知的にリスクにさらされやすい状況にある人)を含む、ユーザーの身体的・精神的な健康への害については、例えば、新しいコンテンツでユーザーを絶えず「報酬」漬けにして「スクロールし続けたい」という衝動を煽るデザインにより、ユーザーの脳を「オートパイロット・モード」へと切り替えさせると指摘。科学的な研究によれば、これが強迫的な行動につながり、ユーザーの自制心を低下させる可能性があるとしている。
またTikTokは評価の過程で、未成年者が夜間にTikTokに費やす時間や、ユーザーがアプリを開く頻度、その他の潜在的な指標などについて、「強迫的な利用を示す重要な指標を無視した」と断じている。
現在のTikTokの対策、特にスクリーンタイム管理ツールやペアレンタルコントロール(保護者による制限)ツールについては、「中毒性のあるデザインから生じるリスクを効果的に軽減しているようには見えない」と指摘。時間管理ツールは簡単に解除でき効果的ではないとし、ペアレンタルコントロールは保護者に追加の時間やスキルを要求し効果的ではない可能性があると指摘している。
こうしたことから、欧州委員会は「サービスの基本的なデザインを変更する必要がある」との見解を示している。
具体的には、無限スクロールのような中毒性の高い機能の無効化、夜間を含めた効果的な「スクリーンタイム休憩」の導入、レコメンダーシステムのアルゴリズム変更、などが挙げられている。
仮に今回の予備的見解が確定すると、TikTokはデジタルサービス法に違反したと判断され、内容に応じた制裁金が課される可能性がある。制裁金は最大で、全世界の年間総売上高の6%に達する可能性がある。
欧州委員会は2024年2月からTikTokの調査を開始していた。中毒性のあるデザインに加えて、レコメンダーシステムによるラビットホール効果(類似コンテンツを見続けて抜け出せなくなる効果)や、年齢確認ツールの不備や有効性、未成年者が年齢に不相応な体験をするリスク、未成年者のプライバシーやセキュリティなどを高度に確保するプラットフォームの義務についても調査されている。