- 英ICO（情報コミッショナー事務局）がX社のGrokによるディープフェイク画像生成について正式調査を開始
- パリ検察がX社パリオフィスを家宅捜索。マスク氏と元CEO Yaccarino氏に「任意出頭」を要請
- Grokが未成年を含む性的ディープフェイクを生成可能だった問題が発端。EU・英国が同時に動く
- 欧州委員会がX社に内部文書の保全を命令。アイルランドDPCもGDPR調査を開始
- EUはX社に既にDSA違反で1.2億ユーロ（約1.74億ドル）の制裁金。追加処分の可能性も
Elon Musk率いるX社（旧Twitter）が、AI生成画像をめぐり欧州当局の集中砲火を浴びています。
英国のICO（情報コミッショナー事務局）とOfcomが正式調査を開始、パリ検察はX社オフィスを家宅捜索し、マスク氏本人に「任意出頭」を要請。
きっかけは、X社のAIチャットボットGrokが未成年を含む性的ディープフェイク画像を生成可能だった問題。
EU・英国の複数機関が同時に動く異例の展開を追います。
何が起きたのか｜Grokディープフェイク問題の経緯
2025年末から2026年初頭にかけて、X社のAIチャットボットGrokに深刻な安全性の問題が発覚しました。
- 性的画像の生成 — Grokが、実在の人物の性的な偽画像（ディープフェイク）を生成できることが判明
- 未成年の画像 — 子どもの画像を含む性的コンテンツの生成が可能だったとの報告。EUは「おぞましい」と非難
- 安全装置の欠如 — 他のAI（ChatGPT、Claude、Gemini等）が実装している安全フィルターが、Grokでは不十分だった
- 拡散の速さ — 生成された画像がX上で共有され、プラットフォームとしての責任も問題に
たとえるなら、「刃物を売る店が、年齢確認も安全説明もなく販売していた」ようなもの。AI画像生成自体は合法ですが、性的ディープフェイクの生成は多くの国で違法であり、特に未成年が関係する場合は児童虐待に分類されます。
英国の対応｜ICOとOfcomが同時調査
英国は2つの規制機関が並行して調査を進めています。
- ICO（情報コミッショナー事務局） — データ保護の観点から調査。Grokが個人データ（顔写真等）をどのように利用しているかを検証
- Ofcom — オンライン安全法（Online Safety Act）に基づき、X社が違法コンテンツの防止・削除義務を果たしているかを調査
- 罰則 — Ofcomは英国内でのサービス禁止、または高額罰金を科す権限を持つ
パリ検察の家宅捜索｜マスク氏に出頭要請
2026年2月、パリ検察はX社のパリオフィスに捜査員を送り込みました。
- 家宅捜索 — X社パリオフィスの内部文書・データを押収
- マスク氏への召喚 — Elon Musk氏と元CEO Linda Yaccarino氏に「任意出頭」を要請。期日は4月20日
- 容疑 — 非同意の性的画像の生成・流通を可能にした責任
フランスの検察がテック企業のCEOを直接召喚するのは異例です。
たとえるなら、「交通事故を起こした車のメーカーのCEOが検察に呼ばれた」ようなもの。
直接手を下したのはユーザーでも、ツールを提供した企業の責任を問う動きです。
EU全体の包囲網｜文書保全命令・GDPR調査・DSA制裁金
EUの各機関もX社への圧力を強めています。
- 欧州委員会 — 2026年1月8日、X社にGrok関連の内部文書・データを2026年末まで保全するよう命令
- アイルランドDPC — EUの厳格なデータ保護規則（GDPR）に基づき、Grokの調査を開始。X社のEU本部がアイルランドにあるため、主管轄機関
- DSA制裁金 — 2025年12月、EUはX社にデジタルサービス法（DSA）の透明性義務違反で1.2億ユーロ（約200億円）の制裁金を命令。Grok問題の追加制裁の可能性も
X社はEUのGDPR違反で売上高の4%（推定最大10億ドル以上）、DSA違反で売上高の6%の制裁金リスクに直面しています。
他のAI企業との比較｜なぜGrokだけ問題になったのか
- OpenAI（DALL-E/ChatGPT） — 実在人物の性的画像生成を厳格にブロック。顔認識技術で類似画像も検出
- Google（Gemini/Imagen） — 安全フィルターが多層構造。生成前と生成後の両方でチェック
- Anthropic（Claude） — 画像生成機能自体を提供せず。テキストでも有害コンテンツの生成を拒否
- X社（Grok） — 「言論の自由」を重視するマスク氏の方針で、安全フィルターが他社より緩い設計だった
Grokが特に問題視されたのは、安全装置の欠如とプラットフォームの一体化です。生成した画像をそのままXで共有できる仕組みは、「武器と弾薬を同時に販売する」に等しいと批判されています。
よくある質問（FAQ）
Q. Grokは現在も性的画像を生成できますか？
X社は問題発覚後に一部の安全フィルターを追加しましたが、規制当局は対策が不十分だと判断しています。調査の結果次第で、Grokの画像生成機能の停止やさらなる制限が求められる可能性があります。
Q. 日本でもGrokの規制はありますか？
現時点で日本の規制当局がGrokに対する正式な調査を開始したとの報道はありません。ただし、日本でもリベンジポルノ防止法や児童ポルノ規制法があり、AI生成の性的画像がこれらの法律に該当する場合は違法です。
Q. マスク氏は実際にパリに出頭しますか？
「任意出頭」であり、法的強制力は限定的です。
ただし、出頭を拒否した場合、フランス国内での事業展開に影響が出る可能性があります。
マスク氏はこれまでEU規制に対して強硬な姿勢を見せており、出頭するかは不透明です。
Q. AI企業全体への影響はありますか？
大きな前例になります。
Grokへの規制が強化されれば、他のAI企業も安全装置の強化を求められます。
特にEUのAI法（2024年施行開始）が本格適用されれば、すべてのAI画像生成サービスに厳格な安全基準が課される可能性があります。
まとめ
この記事のポイントを振り返りましょう。
- 英ICOとOfcomがGrokの性的ディープフェイク生成について正式調査を開始
- パリ検察がX社パリオフィスを家宅捜索。マスク氏に任意出頭を要請
- Grokの安全フィルターの不備が問題の根本。他社AIとの対策格差が浮き彫りに
- EUはX社にDSA違反で1.2億ユーロの制裁金。GDPR違反の追加制裁リスクも
- AI画像生成の安全基準に関する国際的な前例が形成されつつある
Grok問題は、「言論の自由」と「安全」のバランスというAI時代の最も難しい問いを突きつけています。
マスク氏が「検閲なきAI」を理想とするのは理解できますが、その結果として未成年の性的画像が生成されるなら、それは「自由」ではなく「無責任」です。
欧州当局の対応は厳しすぎるとの声もありますが、AI安全基準のグローバルスタンダードがこの事件を契機に形成されることは、長期的には業界全体の利益になるでしょう。
参考文献
- Time. (2026). French Prosecutors Raid X Offices and Summon Musk. Time
- Al Jazeera. (2026). EU probes Musk’s Grok AI feature over deepfakes of women, minors. Al Jazeera
- Computing. (2026). ICO launches probe into X over Grok AI sexual image claims. Computing
- TechPolicy.Press. (2026). Tracking Regulator Responses to the Grok ‘Undressing’ Controversy. TechPolicy.Press
- PBS News. (2026). Musk’s Grok chatbot faces EU privacy investigation over sexualized deepfake images. PBS News
こんな時代だから遊んで学びたい
AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。
毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。 さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。
「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？
一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！
