AI企業がユーザーを提訴｜Grok悪用に異例の反撃

監修者伊東雄歩

株式会社ウォーカー CEO。東北大学卒。MENSA会員、JDLA認定講師、健全AI教育協会理事。生成AI×教育・学習科学を専門とし、2億円超のシステム開発プロジェクトを統括。

SpaceXAI（旧xAI）が2026年7月14日、Grokを悪用したとして米サウスカロライナ州の男性を提訴した
AI企業が「悪用したユーザー」を訴えるのは極めて異例。これまでは訴えられる側だった
会社側は2026年に52,222アカウントを停止し、NCMECへ73,604件を通報したと主張している
米国ではTake It Down法が2026年5月に本格施行。48時間以内の削除が義務になった
日本の児童ポルノ禁止法は「実在の児童」が前提で、AI生成物への適用は曖昧なまま残っている

生成AIで作られた画像が、誰かの人生を壊す。そんな事件が相次ぐなか、AI企業がついに「使った人間」を訴えました。2026年7月14日、SpaceXAIが自社のGrokを悪用した男性を提訴。これまでとは真逆の構図です。何が起きたのか、そして日本に何が関係するのかを整理します。

何が起きたのか｜SpaceXAIがGrok利用者を提訴

2026年7月14日、SpaceXAIが米テキサス州北部地区連邦地方裁判所に訴状を提出しました。

訴えられたのは、サウスカロライナ州に住むテリー・ウェイン・ハーウッドという男性です。

会社側の主張によれば、この男性は偽の身元で2つのGrokアカウントを作成していました。そのうえで2025年12月8日から2026年2月18日にかけて、実在の成人と未成年の写真をアップロードし、性的な画像へと加工させたとされています。

被写体は誰も同意していませんでした。本人が知らないうちに、自分の写真が加工されていたことになります。

なお男性は、この訴訟とは別に2026年2月の時点ですでに逮捕されています。未成年者の性的搾取に関する刑事事件で、有罪となれば最大10年の実刑が科される可能性があると報じられています。つまり刑事事件が先にあり、そこへ企業が民事訴訟を重ねた形です。

ちなみに社名の「SpaceXAI」に見覚えがない人もいるかもしれません。xAIは2026年2月にSpaceXへ吸収合併され、7月6日に社名とロゴを正式にSpaceXAIへ変更しました。ただしチャットAI「Grok」の名前はそのまま残っています。報道各社がいまだ「xAI」と書くのは、この改称が2週間前の出来事だからです。

訴状の中身｜会社は「計算された企て」と主張

訴状でSpaceXAIは、男性の行為を「計算された企て（a calculated scheme）」と表現しています。

偶然や出来心ではなく、意図的に安全装置を回避しようとした——という主張です。

会社が求めているもの

SpaceXAIが裁判所に求めているのは、次の3点です。

利用規約に違反したという司法判断（宣言的判決）
損害賠償（金額は明示されていない）
Grokの永久利用禁止

注目したいのは、金額よりも1つ目です。「規約違反だった」と裁判所に認定させることを、会社は正面から求めています。

会社側が主張する被害

訴状は、男性の行為が被写体に「深刻で長期にわたる害（serious and lasting harm）」を与えたとしています。

同時に、会社自身も法的リスクと評判の低下にさらされたと訴えています。被害者と企業、その両方が傷ついたという立て付けです。この構成が、後述する「異例さ」の核心になります。

なぜ異例なのか｜AI企業は「訴えられる側」だった

これまで生成AIをめぐる訴訟は、ほぼ一方通行でした。被害者がAI企業を訴えるという形です。

実際、SpaceXAI自身が2026年6月時点で米英あわせて少なくとも6件の主要な訴訟を抱えています。

アシュリー・セントクレア氏による訴訟
テネシー州の未成年3名による訴訟
ボルチモア市による訴訟（自治体が原告）
カリフォルニア州での集団訴訟
英国のジェス・アサト議員による訴訟

つまり同社は、被害者から訴えられながら、同時に加害者とされる人物を訴えている。原告と被告の両方を同時にやっているという珍しい状態にあります。

「道具か、作った側か」という古い問い

この訴訟の裏には、まだ決着のついていない問いがあります。

AIが有害なものを出力したとき、責任は誰にあるのか。

包丁で事件が起きても、包丁メーカーは普通は責任を問われません。一方でAIは、指示を受けて自ら中身を生成します。単なる道具とは言い切れない部分がある、という指摘は根強くあります。

今回の提訴は、この問いに対するSpaceXAI側の答えでもあります。「悪いのは規約を破って回避した利用者だ」という立場を、行動で示した形です。

ただし見方を変えると、自社が被告として戦っている複数の訴訟に対する防御の布石にも見えます。「我々も被害者を守るために動いている」と示す材料になるからです。企業の善意なのか訴訟戦略なのか、評価は分かれています。

他社はどうしている？｜OpenAI・Metaとの比較

では、他のAI企業やプラットフォームはどう対応しているのでしょうか。「訴訟までやるかどうか」が、実は最大の違いです。

SpaceXAI：停止＋通報＋訴訟

同社は2026年に、以下の実績を公表しています。

停止したアカウント：52,222件
NCMEC（全米行方不明・被搾取児童センター）への通報：73,604件
それによる逮捕：少なくとも244件

そこへ今回、民事訴訟という4つ目の手段が加わりました。

OpenAI：即時BANと再登録の追跡

OpenAIは、児童性的虐待に関わる要求やアップロードを検知した場合、NCMECへ通報したうえでアカウントを即座に停止する方針を公表しています。

特徴的なのは、BANされた人物が別アカウントで戻ってこようとする動きを、専門の調査チームが追跡している点です。

Meta：規模で押す

Metaの対応は桁が違います。2025年7月の1か月だけで、子どもを性的対象化するアカウント約13万5,000件を削除。関連アカウントを含めると約63万5,000件に達しました。

NCMECへの通報も、2025年の四半期によっては200万件超に上ります。Instagram・Facebook・Threads・WhatsAppを横断した追跡や、ハッシュ照合を組み合わせた多層的な仕組みです。

違いはどこにあるか

OpenAIもMetaも「検知して、消して、通報する」までは共通しています。SpaceXAIの数字は、Metaと比べれば規模としては小さい部類です。

しかし個人を名指しで法廷に引き出した企業は、これまでほとんどありません。今回が特異なのは、件数ではなく手段のほうです。

法律は追いついているか｜Take It Down法とNCMEC

この訴訟は、米国の法整備が急速に進んだタイミングで起きました。

Take It Down法（2026年5月本格施行）

正式には「Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act」という長い名前の連邦法です。

ポイントを整理します。

同意のない性的画像の公開を連邦犯罪と定めた
本物かAI生成かを問わない——ここが重要な点
刑罰は成人被害で最大2年、未成年被害で最大3年
対象プラットフォームは2026年5月19日までに通報・削除の窓口を整備する義務
通報を受けたら48時間以内に削除し、複製にも対処する

監督するのはFTC（連邦取引委員会）で、違反は不公正な取引慣行として扱われます。制裁金は1件あたり最大53,088ドル。施行前にFTC委員長は、Meta・Apple・Microsoft・TikTok・Reddit・Snapchat・Xなど十数社へ警告書を送っています。

初の有罪判決は2026年4月、オハイオ州の男性に対して下されました。法律が実際に動き出していることを示す事例です。

なぜ企業が急に厳しくなったのか

ここまで来ると、企業側の事情も見えてきます。

48時間ルールと制裁金がある以上、放置は経営リスクに直結します。「厳しく対応している」と示すこと自体に、法的な価値が生まれたわけです。今回の提訴を、この文脈で読む専門家もいます。

日本への影響｜法律のすきまと鳥取県の先行

「アメリカの話でしょう」と思うかもしれません。ところが日本の状況は、むしろ米国より曖昧です。

日本の法律が抱えるすきま

日本の児童ポルノ禁止法は、「実在する18歳未満の児童」を守るという構造でできています。

ここに落とし穴があります。AIだけで完結して生成された未成年の性的表現は、この法律の罰則が直接及ぶとは限らないのです。児童の性的ディープフェイクが「児童ポルノ」に含まれるのかどうか、法律上の明確な規定が存在しません。

ただし今回のような、実在する子どもの写真を加工したケースは話が別です。被写体が実在するため、児ポ法の対象になり得ます。「AI生成なら何でもセーフ」という理解は誤りです。

とはいえ、境界線が条文で明示されていない状態が続いています。

鳥取県が先に動いた

この空白に、国より先に動いたのが鳥取県でした。

改正された県青少年健全育成条例では、被写体が18歳未満であれば児童の性的ディープフェイクも「児童ポルノ等」として規制対象に含め、違反に罰則等の措置を定めています。2025年4月1日施行で、都道府県として先陣を切った形です。

国会でも児ポ法の改正が議論されていますが、現時点で結論は出ていません。

日本の私たちに何が関係するか

身近なところで考えてみます。

SNSに子どもの運動会の写真を上げている保護者がいるとします。公開アカウントであれば、その画像は誰でも保存できます。今回の事件は、まさに「普通の写真」が素材にされたケースでした。特別な人だけが狙われるわけではありません。

企業側にも関係します。日本企業がGrokやその他の画像生成AIを社内で使う場合、誰がどう使ったかのログが残ることになります。今回の訴状は、アカウント作成日から画像アップロードの日付まで、詳細な記録に基づいて構成されていました。「匿名だから分からない」という前提は、すでに崩れています。

クリエイターにとっても他人事ではありません。規約違反が民事訴訟の根拠になるという前例ができれば、各社の利用規約を読む意味が変わってきます。これまで規約違反の代償はアカウント停止どまりでした。そこに賠償請求が加わるなら、話は別です。

よくある質問（FAQ）

Q1. なぜ刑事事件があるのに、企業がわざわざ民事訴訟を起こすのですか？

刑事事件は国が犯罪を裁く手続きで、企業は当事者になれません。一方の民事訴訟では、企業自身が「規約違反で損害を受けた」と主張できます。またSpaceXAIは永久利用禁止の命令も求めており、これは刑事裁判では得られないものです。目的が違う、というのが答えになります。

Q2. この訴訟でSpaceXAIは勝てるのでしょうか？

現時点では分かりません。訴状は2026年7月14日に提出されたばかりで、被告側の反論も出ていません。利用規約違反を根拠に個人へ賠償を求める前例がほとんどないため、裁判所の判断は読みにくいと言われています。損害額の立証も争点になりそうです。

Q3. AI企業は、悪用されたら責任を免れるのですか？

いいえ。今回の提訴は、あくまでSpaceXAI側の主張にすぎません。同社は現在もボルチモア市や英国議員などから訴えられる立場にあります。「安全装置を回避した利用者が悪い」という主張が通るのか、それとも「回避できる設計にした企業にも責任がある」となるのか。この点は米英EUの裁判所で今後判断される見通しで、画像生成AIを扱う全企業に影響します。

Q4. 日本でAI生成の性的画像を作ると、罪に問われますか？

ケースによります。実在する18歳未満の子どもの写真を加工した場合は、児童ポルノ禁止法の対象になり得ます。一方、実在しない人物をAIだけで生成した場合は、現行法の罰則が直接及ぶかどうか明確ではありません。ただし鳥取県のように条例で規制する自治体も出ており、状況は変わりつつあります。また同意のない他人の性的画像の作成・拡散は、名誉毀損などの別の法的責任を問われる可能性があります。

Q5. 自分の写真が悪用されていないか、確認する方法はありますか？

米国ではNCMECが運営する「Take It Down」というサービスがあり、18歳未満の人（または未成年時の画像に悩む成人）が画像のハッシュ（デジタル指紋）を登録して、一致する画像の検出・削除を求められます。成人向けにはStopNCII.orgがあります。日本国内では、警察やプロバイダへの相談が基本的な窓口になります。