詐欺被害17兆円｜OpenAIが組織を遮断

公開日:

SHARE

伊東雄歩
監修者 伊東 雄歩

株式会社ウォーカー CEO。東北大学卒。MENSA会員、JDLA認定講師、健全AI教育協会理事。生成AI×教育・学習科学を専門とし、2億円超のシステム開発プロジェクトを統括。

taolis.net X note Voicy YouTube
  • OpenAIが2026年7月31日、カンボジア・ポイペトを拠点とする詐欺組織のChatGPTアカウント群を永久凍結したと発表
  • ChatGPTは偽の恋人役の会話、多言語翻訳、偽パスポートや偽の取引画面づくりに使われていた
  • 発見のきっかけはWhatsAppからの一報。AI企業とSNS企業が情報を持ち寄る形で追跡が進んだ
  • 国連の推計では2025年のアジア太平洋のオンライン詐欺被害は最大1141億ドル（約17兆円）
  • 日本でも2025年の詐欺被害総額は3241億円と過去最悪。手口の「言葉の壁」が消えつつある

SNSで知り合った相手が、なぜあんなに自然な日本語を書けたのか。そう感じたことはありませんか。その裏側にAIがいた証拠を、OpenAI自身が公開しました。詐欺グループがChatGPTを何にどう使っていたのか、そして私たちがどう身を守ればいいのかを整理します。

OpenAIがカンボジア拠点の詐欺組織を遮断

OpenAIは2026年7月31日、レポート「Disrupting a Criminal Scam Operation」を公開しました。

カンボジア・ポイペトを拠点とする詐欺組織が使っていたChatGPTアカウント群を特定し、永久凍結したという内容です。

ポイペトはタイとの国境にある街です。大規模な詐欺拠点が集まる場所として、国際的な捜査機関からずっとマークされてきました。

この組織が手がけていた詐欺は1種類ではありません。恋愛感情を使って投資に誘い込むロマンス詐欺（英語圏では「pig butchering」と呼ばれる手口）、偽の暗号資産投資サイト、違法なオンライン賭博、そして警察や当局をかたるなりすまし。これらを組み合わせて運営していました。

OpenAIの評価では、このネットワークは数百人規模の被害者に接触し、被害総額は数千ドル規模に達した可能性があるとされています。

発端はWhatsAppからの一報だった

興味深いのは、OpenAIが自力で見つけたわけではないという点です。

調査の入り口はWhatsApp（Meta傘下のメッセージアプリ）のセキュリティチームからの情報提供でした。複数のプラットフォームをまたいだ不自然な自動メッセージのパターンが見つかり、それがOpenAIに共有されたのです。

OpenAIはその後、アカウント群を凍結したうえで、得られた脅威情報を業界のパートナーや各国の捜査当局にも渡しています。

詐欺グループは1つのサービスだけで完結しません。AIで文章を作り、SNSで接触し、メッセージアプリで会話を続け、暗号資産で送金させる。だから追う側も、1社だけでは全体像が見えないというわけです。

ChatGPTは詐欺のどこに使われていたのか

レポートで明らかになった使われ方は、想像よりずっと「業務的」でした。

1. 偽の人格と、途切れない会話

まず、実在しない人物のプロフィールや経歴を作らせていました。

そのうえで、相手の反応に合わせた返信をAIに書かせます。英語・中国語・スペイン語・ドイツ語など、複数言語への翻訳にも使われていました。

これまで詐欺には「言葉の壁」がありました。不自然な日本語や翻訳調の文章は、最大の見破りポイントだったはずです。その壁が、翻訳AIによってほぼ消えかけています。

2. 「証拠」に見える書類の量産

信じ込ませるための小道具づくりにも使われていました。

偽のパスポート画像、もっともらしい法的通知、株式の購入確認書、そして偽の暗号資産取引ダッシュボード。こうした「儲かっているように見える画面」を作らせていたのです。

婚活アプリで知り合った相手から、含み益が並んだ取引画面のスクリーンショットが送られてくる場面を想像してみてください。手書きの怪しいメールとは、説得力がまるで違います。

3. 詐欺組織の「人事・経理」まで

もっとも不気味なのはここです。

ChatGPTは、現場スタッフを集めるための求人広告の作成にも使われていました。「チャッター（chatter）」という職種名で、渡航費・宿泊・食事・ビザ・労働許可まで全部持ちという好条件を並べた広告です。

さらに内部のやり取りには、働き手の借金額、給与からの天引き、罰金を管理するための文面まで含まれていました。つまり詐欺の「実行」だけでなく、組織の運営そのものにAIが組み込まれていたことになります。

詐欺をしていた人も、閉じ込められた被害者だった

ここで話は、ただのIT犯罪ではなくなります。

国連薬物・犯罪事務所（UNODC）は、東南アジアの詐欺拠点で数十万人が強制労働の状態に置かれていると警告しています。確認された人々の出身は80以上の国と地域にのぼります。

好条件の求人に応募して現地に着いた若者が、パスポートを取り上げられ、借金を背負わされ、ノルマを達成するまで帰れなくなる。前述の「渡航費・宿・ビザ全部持ち」という広告は、その入り口として機能していました。

日本も無関係ではありません。時事通信の報道によれば、今年だけでカンボジア・インドネシア・ベトナム・フィリピンで日本人計35人が拘束されています。「闇バイト」の延長線上に、この構造がつながっているのです。

被害額は最大17兆円　数字で見る現実

規模感をつかむために、公表されている数字を並べます。

  • 883億〜1141億ドル（約13兆〜17兆円）：2025年に東アジア・東南アジア・豪州・NZの被害者が失った額（UNODC「東南アジア組織犯罪脅威評価2026」2026年7月21日公表）
  • 約3倍：2年前の推計（2023年で180億〜370億ドル）からの増加幅
  • 1580億ドル：2025年の不正な暗号資産の流れ（TRM Labs推計）。前年比145%増
  • 84%：確認された詐欺関連の資金流入のうちステーブルコインが占める割合
  • 40以上：OpenAIが2024年2月に脅威報告を始めてから遮断したネットワークの数

被害が2年で約3倍というのは、普通の犯罪の増え方ではありません。生成AIによって「1人が同時に相手できる被害者の数」が跳ね上がったことが、増加の背景にあると指摘されています。

他のAI企業はどう戦っているのか

悪用対策は、OpenAIだけの取り組みではありません。各社のアプローチには違いがあります。

  • OpenAI：詐欺・サイバー攻撃・世論工作など幅広い悪用を対象に、事案ごとの遮断レポートを継続公開。今回のように他社からの通報を起点にした調査も多い
  • Anthropic：2025年3月〜2026年3月に凍結した832アカウントを分析し、うち67.3%（560件）がAIの助けを借りてマルウェアを作っていたと報告。攻撃手法の分類表「MITRE ATT&CK」に対応づけて公開している点が特徴
  • Google：脅威分析チーム（GTIG）が、AIを使った偽メール作成やマルウェア開発の動向をまとめて公表
  • Meta（WhatsApp）：今回のように、プラットフォーム側の異常検知をAI企業に渡す役割を担った

共通しているのは「1社では追いきれない」という認識です。AI企業はプロンプトの使われ方は見えても、実際に誰が誰をだましたかは見えません。逆にSNS企業はメッセージの流れは見えても、それがどのAIで作られたかは分かりません。

今回の事案は、その死角を情報共有で埋めた例といえます。

日本にいる私たちへの影響と自衛策

「カンボジアの話でしょ」と思うかもしれません。でも数字を見ると、日本はむしろ標的側です。

日本の被害はすでに過去最悪

警察庁のまとめによると、2025年の特殊詐欺とSNS型投資・ロマンス詐欺の被害総額は約3241億1000万円で、前年比62.8%増の過去最悪となりました。

内訳は、特殊詐欺が1414億2000万円（前年比695億4000万円増）、SNS型投資詐欺が1274億7000万円（前年の約1.4倍）です。

とくに増えているのが「ニセ警察」の手口です。認知件数は1万件を超え、被害額は985億4000万円。特殊詐欺の被害額の約7割を占めました。今回OpenAIが遮断した組織も、当局のなりすましを手口の1つにしていました。構図はそのまま重なります。

明日から使える見破りかた

AIによって文章の粗さは消えました。だから見るべきポイントも変わります。

文章の自然さではなく、「行動の要求」で判断してください。

  • 会ったことのない相手に、送金・暗号資産の購入・口座情報の提供をしない（例外なし）
  • 儲かっている取引画面のスクリーンショットは、証拠として一切扱わない
  • 警察・銀行・役所を名乗る連絡は、いったん切って公式サイトの番号にかけ直す
  • 「渡航費も宿も全部負担します」という海外求人には応募しない
  • 相手が会話の主導権を握り、他人に相談させたがらない場合は疑う

ある会社員が、マッチングアプリで知り合った相手と3か月やり取りを続けたとします。日本語は完璧で、話も合う。ある日「一緒に資産を増やそう」と口座開設を勧められる——ここまでの流れは、すべてAIで量産できます。判断すべきは3か月分の会話の質ではなく、最後の1回の要求です。

よくある質問（FAQ）

Q1. ChatGPTは詐欺に使えてしまうのですか？

明確に「詐欺の文章を書いて」と頼めば拒否されます。ただし今回のケースのように、翻訳・書類作成・広告文といった単体では違法でない作業に分解して使うと、その場では判別が難しくなります。だからOpenAIは、事後にアカウント群の行動パターンをまとめて分析する方法をとっています。

Q2. 遮断されれば詐欺は止まりますか？

残念ながら止まりません。組織はアカウントを作り直しますし、他社のAIやオープンなモデルにも移れます。今回の意義は、手口が具体的に公開されたことと、企業間で情報が共有される道筋ができたことにあります。

Q3. 日本語での被害も増えているのですか？

今回のレポートで挙がった言語に日本語は含まれていません。ただし警察庁の統計では日本国内の被害が過去最悪を更新しており、生成AIの活用で手口が巧妙化しているとも指摘されています。日本語だから安全という状況ではありません。

Q4. だまされたかもしれないとき、どこに相談すればいいですか？

警察相談専用電話「#9110」か、最寄りの警察署に相談してください。金銭を送ってしまった場合は、振込先の金融機関にもすぐ連絡します。暗号資産で送った場合でも、取引所に早く連絡するほど凍結の可能性が残ります。恥ずかしさから相談が遅れることが、被害を最も大きくします。

まとめ

  • OpenAIは2026年7月31日、カンボジア・ポイペト拠点の詐欺組織のChatGPTアカウント群を永久凍結したと公表した
  • 用途は偽の人格づくり、多言語翻訳、偽パスポートや偽の取引画面の作成、さらに求人広告や労務管理にまで及んでいた
  • 調査の起点はWhatsAppからの通報で、AI企業とSNS企業の情報共有が機能した事例となった
  • UNODCの推計では2025年のアジア太平洋の被害は最大1141億ドル（約17兆円）で、2年前の約3倍
  • 日本でも2025年の被害総額は3241億円と過去最悪。文章の自然さで詐欺を見抜く時代は終わった

まずは自分と家族のスマホで、「会ったことのない相手からの送金・投資の誘いには絶対に応じない」という一線を今日のうちに共有しておきましょう。

参考文献

前の記事

CAPTCHA回避は違法か｜Reddit訴訟が続行