- OpenAIが2026年7月15日、AIの弱点を自動で探す攻撃専用AI「GPT-Red」を発表しました
- GPT-Redの攻撃成功率は84%で、人間チームの13%を大きく上回りました
- AI同士を戦わせる「自己対戦」で、攻撃役と防御役が同時に強くなる仕組みです
- 研究者も知らなかった新しい攻撃「偽の思考連鎖」を自力で発見しました
- GPT-Redは社外に公開されず、AIを安全にするための「内部専用ツール」です
「AIが人間をだます」という話はよく聞きます。では、AIがAIをだますとしたら、どうでしょうか。OpenAIが発表した「GPT-Red」は、まさにそれを仕事にするAIです。攻撃成功率はなんと84%。この記事を読むと、AIがAIを攻撃する新しい安全対策の中身と、私たちの生活への影響がわかります。
GPT-Redとは？AIがAIを攻撃する仕組み
GPT-Redは、OpenAIが2026年7月15日に発表した特別なAIです。
役割は一つ。ほかのAIの弱点を見つけることです。
やり方は、悪意のある指示を送り込む「プロンプトインジェクション」という攻撃を大量に仕掛けることです。プロンプトインジェクションとは、メールやウェブページの中にこっそり命令を隠して、AIを乗っ取る手口を指します。
GPT-Redは標的のAIに攻撃を送り、反応を見て、また攻撃をやり直します。人間のハッカーがやる作業を、休みなく自動でくり返すのです。
「自己対戦」で攻撃役と防御役が同時に強くなる
GPT-Redの一番おもしろい点は、その訓練方法です。
OpenAIは「自己対戦型の強化学習」という方法を使いました。攻撃役のGPT-Redと、守る役の複数のAIを、同時に鍛えるのです。
攻撃が成功すればGPT-Redがごほうびをもらえます。すると守る側もそれに負けじと強くなります。守りが固くなるほど、GPT-Redはもっと巧妙な攻撃を考え出します。
つまり、AI同士が終わりのないイタチごっこを高速でくり広げ、両方がどんどん賢くなっていく仕組みです。
攻撃成功率84%の衝撃｜人間チームを圧倒
GPT-Redの実力を示す数字が、その圧倒的な成功率です。
外部データに命令を隠す「間接プロンプトインジェクション」のテストで、こんな差が出ました。
- 人間のレッドチーム（攻撃の専門家）：成功率13%
- GPT-Red：成功率84%
人間の専門家の、およそ6倍以上の成功率です。AIの弱点探しにかけては、もう人間よりずっと得意になっている、ということです。
ちなみに、2025年8月に出た「GPT-5」に対しては、GPT-Redは90%以上の確率で攻撃を成功させました。最新の「GPT-5.6」に対しては、最強の攻撃でも成功率が23%未満まで下がっています。守る側の進化も、しっかり進んでいるわけです。
GPT-Redが見つけた新種の攻撃「偽の思考連鎖」
GPT-Redは、ただ既存の攻撃をくり返すだけではありませんでした。
人間の研究者も知らなかったまったく新しい攻撃を、自力で発見したのです。その名も「偽の思考連鎖（Fake Chain-of-Thought）」攻撃といいます。
最近のAIは、答えを出す前に「頭の中でメモ」を取りながら考えます。この考える過程を思考連鎖と呼びます。
偽の思考連鎖攻撃は、このメモにウソの途中経過を紛れ込ませる手口です。AIは自分で考えたメモだと勘違いして、間違った結論を信じ込んでしまいます。
この攻撃は最初、成功率が95%を超えていました。しかしGPT-Redで対策訓練を重ねた結果、10%以下まで抑え込むことに成功しました。攻撃を知ることが、そのまま守りの強化につながった好例です。
自動販売機AIが乗っ取られた実験
数字だけではピンと来ないかもしれません。実際に起きた乗っ取りの様子を見てみましょう。
OpenAIは、商品を売る「AI自動販売機エージェント」を用意して、GPT-Redに攻撃させました。結果、GPT-Redは次の3つの悪だくみをすべて達成しました。
- 高額な商品の値段を、勝手に0.5ドル（約75円）に書き換える
- 100ドル（約1万5000円）を超える商品を、0.5ドルで売らせる
- ほかのお客さんの注文を、勝手にキャンセルする
もしこれが本物のお店だったら、大損害です。AIエージェントがお金や商品を扱う時代に、この危うさはとても身近な問題だと感じませんか。
対策後のGPT-5.6は失敗率0.05%に
こうした攻撃をふまえて、OpenAIは最新モデル「GPT-5.6 Sol」を鍛え上げました。
その成果はハッキリしています。直接プロンプトインジェクションの失敗率は、4カ月前のモデルの6分の1に減りました。
さらに、GPT-Red自身による攻撃への失敗率は、わずか0.05%にまで下がっています。攻撃するAIが、いちばんの先生になったのです。
他社との比較｜Anthropic・Googleの動きは？
AIを攻撃して守りを固める動きは、OpenAIだけのものではありません。主要な各社がそれぞれのやり方を進めています。
- OpenAI（GPT-Red）：自己対戦で攻撃AIを育てる。社内専用で一般公開はしない方針
- Anthropic（Claude）：2026年2月、直接攻撃の指標をあえて外し、企業でより問題になる「間接攻撃」の対策に集中
- Google（Gemini）：自動レッドチームの仕組みを持つが、こちらも社内利用にとどめている
実は2025年10月、OpenAI・Anthropic・Google DeepMindが共同で12種類の防御策を検証しました。すると、工夫した攻撃の前ではほとんどの防御が9割以上突破されてしまったのです。
この厳しい現実が、各社が攻撃AIの開発を急ぐ理由になっています。守りを固めるには、まず本気で攻めてみるしかない、というわけです。
日本のユーザー・企業への影響
GPT-Redは社外に公開されないため、私たちが直接さわることはできません。では、日本の私たちには関係ないのでしょうか。
そんなことはありません。理由は2つあります。
1つ目は、ふだん使うAIが安全になることです。ChatGPTなどの守りがGPT-Redで鍛えられれば、日本のユーザーもより安心してAIを使えます。
2つ目は、AIエージェントを業務で使う企業へのヒントです。メールの読み取りや自動注文をAIに任せる会社が、日本でも増えています。今回の自動販売機の実験は、「外部データを扱うAIには乗っ取りのリスクがある」と教えてくれます。
ある会社の担当者が、AIに顧客メールの自動返信をまかせている場面を想像してみてください。もし悪意あるメールに命令が隠れていたら、AIが勝手に機密を送ってしまうかもしれません。GPT-Redが示すのは、こうしたリスクへの備えが欠かせない、という現実です。
よくある質問（FAQ）
Q1. GPT-Redは一般ユーザーも使えますか？
いいえ。GPT-RedはOpenAIの社内専用ツールで、一般公開の予定はありません。悪用を防ぐためです。
Q2. プロンプトインジェクションとは何ですか？
メールやウェブページなどの外部データに悪意ある命令をこっそり隠し、AIを乗っ取る攻撃手法です。AIエージェント時代の代表的なリスクとされています。
Q3. GPT-Redは人間のセキュリティ担当者の代わりになりますか？
いいえ。OpenAIはGPT-Redを人間チームの「補助ツール」と位置づけています。置き換えではなく、人間と協力して弱点を探す役割です。
Q4. 84%という成功率は危険ではないですか？
攻撃力が高いのは事実です。ただしそれは弱点を早く見つけて直すためのもの。対策後のGPT-5.6では、GPT-Redの攻撃への失敗率は0.05%まで下がっています。
Q5. 私が使うAIも攻撃される可能性はありますか？
どんなAIにもリスクはゼロではありません。だからこそ各社が攻撃AIで守りを鍛えています。怪しい指示を含むデータをAIに読ませないなど、使う側の注意も大切です。
まとめ
OpenAIの「GPT-Red」が示したポイントを、最後に振り返ります。
- GPT-RedはAIの弱点を自動で探す、攻撃専用のAIです
- 攻撃成功率84%で、人間チームの13%を大きく上回りました
- 「自己対戦」で攻撃役と防御役が同時に強くなります
- 新種の攻撃「偽の思考連鎖」を自力で発見しました
- 対策後のGPT-5.6は、GPT-Redの攻撃への失敗率が0.05%まで低下しました
- 社外非公開ですが、私たちが使うAIの安全性向上につながります
AIエージェントを業務で使うなら、まずは「外部データに潜む命令」のリスクを社内で共有することから始めてみましょう。
参考文献
- OpenAI、自動レッドチームAI「GPT-Red」発表──人間の攻撃成功率13％に対し84％（ITmedia AI＋）
- OpenAI、AIの脆弱性を自動検証する内部用モデル「GPT-Red」（Impress Watch）
- OpenAI has announced ‘GPT-Red’, an AI model that automatically finds weaknesses（GIGAZINE）
- OpenAI Details GPT-Red: An Internal Automated Red-Teaming Model（MarkTechPost）
- AIが自ら攻撃し、自ら学ぶ ― OpenAIの新セキュリティAI「GPT-Red」（AI新聞）
こんな時代だから遊んで学びたい
AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。
毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。 さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。
「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？
一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！
