• OpenAIが「Project Lily」という社内コード名で、数百人の契約者に実際のChatGPT会話を読ませていると404 Mediaが報道
  • 契約者は回答を1〜7点で採点し、「お世辞」や「人間のふり」を減らす訓練データを作っている
  • ユーザー名は見えないが、「メモリ要約」からおおよその居住地や過去の利用内容がわかることがある
  • 無料・Plus・Proでは「モデル改善」設定が最初からオン。Business・Enterprise・Eduは対象外
  • 設定オフ・一時チャット・機密情報を書かない、の3つで今日から自衛できる

ChatGPTに悩み相談や仕事の愚痴を打ち明けたことはありませんか？　その会話を、時給50ドル超で雇われた見知らぬ人が読んでいるかもしれません。2026年9月14日、米メディア404 Mediaが報じた「Project Lily」の中身と、日本のユーザーが今すぐできる対策をわかりやすく解説します。

Project Lilyとは何か？404 Mediaが報じた中身

2026年9月14日、調査報道メディアの404 Mediaが「Inside ‘Project Lily’」と題した記事を公開しました。

内容をひと言でまとめると、OpenAIが数百人の契約者を雇い、実際のChatGPTユーザーの会話を読ませて回答を採点させている、というものです。

Project Lily（プロジェクト・リリー）は、この採点作業に付けられた社内のコード名です。OpenAIが公式に発表したプロジェクト名ではありません。

ChatGPTの利用者は9億人を超えるとされています。そのほとんどは、自分の会話が人間の目に触れる可能性を意識していないでしょう。

404 Mediaの取材に応じた契約者の1人は、こう語っています。「利用者は、どこかの契約者が自分の会話を分析しているなんて想像もしていないと思う」

誰が、いくらで、何を読んでいるのか

採用と報酬の仕組み

報道によると、契約者の採用はCrossing Hurdlesという会社が担当し、支払いは人材プラットフォームのMercorを通じて行われています。

報酬は、ある契約者の証言で時給50ドル超。1ドル150円で換算すると約7,500円です。

日本のアルバイトの感覚からするとかなり高額ですが、それだけ「人間の判断」が高く買われているということでもあります。

契約者の画面に映るもの

契約者は、ユーザーが入力したプロンプト（AIへの質問や指示）とChatGPTの回答を見て、1〜7点のスケールで採点します。

単発の質問だけでなく、会話全体がまとめて表示されるケースもあります。

ユーザー名は表示されません。ただし、プロンプトの上に「メモリ要約」が表示されることがあります。

メモリ要約とは、ChatGPTがそのユーザーについて覚えている情報の要約です。過去にどんな用途で使っていたか、世界のどのあたりに住んでいるかが読み取れる場合があると404 Mediaは伝えています。

「お世辞」と「人間のふり」を直す仕事

404 Mediaが入手した内部文書によると、契約者に与えられた主な指示は2つです。

  • 擬人化をやめさせる: ChatGPTが「人間としての経験」を語らないようにする
  • お世辞（シコファンシー）を減らす: ユーザーを過剰に持ち上げる回答にフラグを立てる

シコファンシー（sycophancy）とは、AIがユーザーの機嫌を取るために事実より同意を優先してしまう傾向のことです。

OpenAIにとってこれは深刻な課題でした。過去のモデルGPT-4oの過剰なお世辞が、複数の自殺事案に関係したとして訴訟を起こされているためです。

つまりProject Lilyは、ChatGPTをより安全にするための作業でもあります。問題は、その材料に「本物のユーザーの会話」が使われている点にあります。

個人情報はどこまで守られているのか

Privacy Filterという前処理

OpenAIは、契約者に会話を渡す前に「OpenAI Privacy Filter」というモデルで個人情報を削除していると説明しています。

削除対象は、名前・住所・メールアドレス・電話番号などです。

OpenAI自身が認める「取りこぼし」

ところが、OpenAI自身の文書には、このフィルターの限界が書かれています。

「一般的でない識別情報を見落とすことがある」「文脈が限られると削除が不十分になることがある」と明記されているのです。

たとえば「田中さん」という名前は消せても、「うちの部長が先週ミスして」という文章に含まれる会社の内情までは消せません。

実際に404 Mediaは、契約者がセンシティブな個人情報を含む会話を目にしていると報じています。健康の悩み、家族の問題、仕事の機密がそのまま流れてくるケースがあるということです。

OpenAIの回答

404 Mediaの取材に対し、OpenAIは「人間によるレビュー」について説明したヘルプページを示しました。

ただし、「どこでユーザーにその事実を伝えているのか」という質問には、当初明確に答えなかったと報じられています。

他社はどうしている？Google・Anthropicとの比較

「人間が会話を読む」のはOpenAIだけではありません。404 MediaもAnthropicとGoogleが同様の人間レビューを行っていると指摘しています。3社の方針を整理します。

  • OpenAI（ChatGPT）: 無料・Plus・Proは学習利用が初期設定でオン。契約者が採点。削除済み・一時チャットも安全監視のため最大30日保持
  • Google（Gemini）: 初期設定で一部の会話が人間のレビュー対象。レビューされた会話は最大3年間保持され、Googleアカウントから切り離して保管
  • Anthropic（Claude）: 2025年9月に方針変更。学習に同意すると匿名化したうえで最大5年間保持。同意しなければ30日で削除、学習利用なし

3社に共通するのは、個人向けプランでは学習利用が「オン」が基本で、ユーザーが自分でオフにする必要がある点です。

一方、法人向けプランはどの社も原則として学習対象外です。会社のアカウントと個人のアカウントで扱いがまったく違うことは覚えておきましょう。

実は昔からあった「人間が聞いている」問題

この構図は、2019年に音声アシスタントで大きな騒ぎになったのと同じです。

当時、AppleのSiriやAmazonのAlexaの録音を契約者が聞いて品質評価していたことが報道され、Appleは謝罪して人間による評価をオプトイン（自分で同意した人だけ対象）に切り替えました。

音声からチャットに舞台が変わっただけで、「AIを良くするには人間の目が必要」という構造は変わっていないのです。

日本のユーザーへの影響と、今日からできる対策3つ

日本語の会話も対象になる

Project Lilyの対象が英語だけという情報はありません。日本語の会話も、学習利用がオンなら同じように採点対象になり得ると考えるのが安全です。

日本ではChatGPTを「相談相手」として使う人が増えています。夜中に眠れずに悩みを打ち明けた会話が、翌週には海外の契約者の画面に表示されているかもしれません。

また、会社員が業務メールの下書きや顧客対応の相談を個人アカウントのChatGPTに入力している場合、会社の機密が社外の人間の目に触れるリスクがあります。

対策1: 「モデル改善」設定をオフにする

もっとも基本的な対策です。手順は次のとおりです。

  1. ChatGPTの「設定」を開く
  2. 「データ コントロール」を選ぶ
  3. 「すべての人のためにモデルを改善する（Improve the model for everyone）」をオフにする

注意点が2つあります。オフにしても過去の会話はさかのぼって除外されません。また、安全性の監視（不正利用のチェック）のためのレビューは止まりません。

対策2: 一時チャットを使う

「一時チャット（Temporary Chat）」を使うと、その会話は履歴に残らず、メモリにも記録されず、学習にも使われません。

ただし安全監視のために最大30日間はサーバーに保持されます。「完全に消える」わけではないことは覚えておいてください。

対策3: 書かない、が最強

フィルターにも設定にも限界がある以上、「人に読まれて困ることは最初から入力しない」が最も確実です。

実名・会社名・取引先名・病名などは、伏せ字や仮名に置き換えてから質問する習慣をつけましょう。それだけで回答の質はほとんど変わりません。

会社で本格的に使うなら、学習対象外のChatGPT BusinessやEnterpriseの導入を検討する価値があります。

よくある質問（FAQ）

Q. 自分の会話が読まれたかどうか確認できますか？

できません。OpenAIは個別の会話がレビュー対象になったかどうかを通知していません。

Q. 有料のPlusやProなら安全ですか？

いいえ。無料・Plus・Proはいずれも学習利用が初期設定でオンです。学習対象外なのはBusiness・Enterprise・Eduの法人向けプランです。

Q. 設定をオフにすれば、誰にも読まれなくなりますか？

学習目的のレビューは止まります。ただし、規約違反や危険な内容が疑われる会話は、安全監視の目的で人間が確認する場合があります。

Q. 会話を削除すれば消えますか？

画面上の履歴は消えますが、安全監視のため最大30日はサーバーに残ります。すでに学習に使われたデータは取り消せません。

Q. これは違法ではないのですか？

各国で議論が進んでいます。イタリアの規制当局は2024年、OpenAIに1,500万ユーロの制裁金を科しました。日本でも個人情報保護法の観点から今後注目が集まると見られています。

まとめ

  • OpenAIは「Project Lily」で数百人の契約者に実際のChatGPT会話を読ませ、1〜7点で採点させている
  • 目的はお世辞や擬人化を減らす安全性向上だが、材料は本物のユーザーの会話
  • Privacy Filterで個人情報を除去しているが、OpenAI自身が取りこぼしを認めている
  • Google・Anthropicも同様の人間レビューを実施。個人向けプランは「オンが初期設定」が業界標準
  • 対策は「モデル改善オフ」「一時チャット」「機密は書かない」の3つ

この記事を読み終えたら、まずChatGPTの「設定」→「データ コントロール」を開いて、自分の学習設定がオンかオフかを確認してみてください。

参考文献