AIの思考が読めなくなる｜Astra新技術に警告

OpenAIの次期モデル「Astra」が、思考の一部を文字にせず内部で回す「recurrent depth（再帰的な深さ）」を使うとThe Informationが報道
「opaque recurrence（不透明な再帰）」とも呼ばれ、AIの思考過程を読んで監視する手法が効かなくなる恐れがあります
Redwood ResearchのBuck Shlegeris氏は「極めて憂慮している」と表明。Zvi Mowshowitz氏は「火遊びだ」と批判しました
OpenAIのヤクブ・パチョッキ主任研究者は「Astraの計算の深さはGPT-4に近く、思考過程は今も読める」と反論しています
2025年7月に主要AI企業の研究者40人以上が「思考過程の監視は壊れやすいチャンス」と警告した懸念が、現実になりつつあります

AIが何を考えて答えを出したのか、途中の文章を読めば分かる。ここ数年、AIの安全性はこの「読める思考」に大きく頼ってきました。ところが2026年9月2日、その前提が崩れるかもしれない報道が出ます。OpenAIの次期モデルが、考えごとの一部を人間に読めない形で処理するというのです。

何が報じられたのか

発端はThe Informationの報道です。これを受けてTechCrunchが2026年9月2日、AI安全性の研究者たちの反応をまとめました。

報道によると、OpenAIの次期モデル「Astra（アストラ）」は「recurrent depth（再帰的な深さ）」という技術を採用しています。「ループ型トランスフォーマー」とも呼ばれる方式です。

この技術には、もうひとつの呼び名があります。「opaque recurrence（不透明な再帰）」。中が見えない、という意味を込めた言い方です。

Astraは前日にも、社内基準でサイバー能力が初めて最高ランク「Critical」に達したと報じられました。今回はその同じモデルの「頭の中身をどう作るか」という設計の話です。能力ではなく、構造が問われています。

「不透明な再帰」とは何をする技術なのか

同じ層を何度もぐるぐる回す

今のAIは、文章を「層（レイヤー）」と呼ばれる処理装置に順番に通して答えを組み立てます。層を通り終えたら、次の一語を出す。この繰り返しです。

recurrent depthは、ここに輪を作ります。次の一語を出す前に、同じ内容を同じ層に何度も通し直すのです。

回している間に更新されるのは、数字の並び（内部表現）です。文章ではないので、人間が開いて読める形にはなっていません。

研究の世界では以前から知られた手法です。2025年公開の「Huginn（フギン）」という35億パラメータのモデルが代表例で、真ん中の反復部分を最大32回も回します。

なぜこの方式が魅力的なのか

研究者がこの方式を追いかける理由は、はっきりしています。小さいモデルなのに、大きいモデル並みの賢さが出るからです。

層を増やせばAIは賢くなりますが、重みが増えて計算にお金がかかります。同じ層を再利用すれば、重みは増やさず考える回数だけを増やせます。特に数学とプログラミングで効果が出ると報告されています。

効率も上がります。従来は考えを文章に書き出すためトークン（AIが処理する文字のかたまり）を消費し、料金と時間がかさみました。頭の中だけで済めば、そのコストは消えます。

なぜ研究者はここまで警戒するのか

「読める思考」は安全対策の主力だった

ここで、AI安全性の実務がどう回っているかを押さえておく必要があります。

推論モデルは答えを出す前に、下書きのような文章を大量に書きます。これがCoT（Chain of Thought／思考の連鎖）、「まずAを確認、次にBと比べる」といった独り言です。

この独り言が、そのまま監視カメラでした。別のAIにCoTを読ませ、まずい兆候を自動チェックするCoTモニタリングという手法です。

AIがルールの抜け道を探すとき、その企みがCoTに書かれていた例は何度も報告されています。思考が数字の並びに移れば、この監視カメラは何も映しません。

研究者たちが実際に言ったこと

反応は速く、厳しいものでした。AI安全性の研究機関Redwood ResearchのCEO、Buck Shlegeris氏はこう述べています。「Astraが不透明な再帰を使うという報道に、私は極めて憂慮している」。

AI分野の論客として知られるZvi Mowshowitz氏の言葉はさらに直接的です。「この技術は火遊びだ。OpenAIとAnthropicが必死に築いてきたタブーを危険にさらしている」。

同機関の主任科学者Ryan Greenblatt氏は、その先を心配します。「最も懸念するのは、自然な流れとして不透明な推論が拡大し、モデルがほぼ完全に潜在空間で考えるようになることだ」。

3人に共通するのは、Astra単体への不安ではなく業界全体がこの方向へ一気に流れることへの警戒です。1社が性能で先行すれば、他社は追随せざるを得ません。

1年以上前から出ていた警告

実は、この事態は予告されていました。2025年7月15日、OpenAI・Google DeepMind・Anthropicなどの研究者40人以上が共同論文を発表しています。「思考の連鎖の監視可能性：AI安全性における新しく、そして壊れやすい機会」という題でした。

主張は明快です。AIが人間の言葉で考えるのは、たまたま手に入った幸運にすぎない。学習方法や構造が変われば簡単に失われるから、今のうちに監視の仕組みを固めるべきだ、と。

論文は危険パターンも挙げていました。そのひとつが「思考を言葉にしなくても済むアーキテクチャ」の登場です。今回の報道は、その予言が現実になった形と言えます。

OpenAI側の反論も見ておく

ここで話を止めると一方的になります。主任研究者のヤクブ・パチョッキ氏は報道に反論しました。要点は2つ。Astraの計算の深さはGPT-4に近い水準にとどまること、思考過程は今も読めることです。

一方でパチョッキ氏は、危機感そのものは共有しています。CoT監視について「壊れやすい」「残念ながら悪い方向に向かっている」と認め、「読める推論を持たないモデルへの、業界を挙げた競争は避けたい」と述べました。監視の強化は現在の研究計画の中心目標だ、とも語っています。

ちなみに、CoT監視を万能視すべきでないという指摘も以前からあります。Anthropicの研究では、AIが実際の判断根拠をCoTに書かない場合が少なくないと示されました。読めても本音とは限らないのです。

他の手法と比べると位置づけが見える

不透明な再帰は突然生まれた異物ではなく、「AIに文章を書かせずに考えさせる」研究の流れの中にあります。主な選択肢を整理します。

従来のCoT方式：思考を文章として全部書き出す。読めるので監視しやすい一方、トークンを大量に消費して遅く高くつく。現在の推論モデルの標準
recurrent depth（不透明な再帰）：同じ層を何度も通す。書き出さないので速く安いが途中が読めない。Huginn-3.5Bが研究例で、Astraが採用したとされる方式
COCONUT（ココナッツ）：Metaが2024年に発表。思考を文章にせず数値ベクトルのまま次の入力へ渡す。複数の道筋を同時に保持でき探索型の論理問題に強いが、途中は完全に読めない
解釈可能性研究：Anthropicなどが進める、モデル内部を直接読み解く技術。監視の代替になり得るが、まだ研究段階

並べると対立の構図がはっきりします。速さ・安さ・賢さを取るか、読めることを取るか。今のところ、両方は手に入りません。

COCONUTを扱った研究には、性能が上がるなら解釈可能性を犠牲にしてでも最先端モデルに組み込まれるだろう、という指摘がありました。その予測が2年足らずで現実になった形です。

日本のユーザーと企業には何が関係するのか

遠い海外の技術論に見えるかもしれません。ですが、影響は身近なところに出ます。

ある地方銀行が、融資審査の下調べにAIを使い始めた場面を想像してみてください。担当者は結論だけでなく、AIがどの数字を怪しいと考えたのかを確認します。金融庁への説明にその記録が要るからです。思考過程が読めなくなれば、この確認が成り立ちません。

製造業でも同じです。品質管理でAIに不良品判定をさせている工場では、判定理由の記録が顧客監査で求められます。「AIがそう言ったので」では通りません。

医療機関はもっと切実でしょう。診断支援AIの提案を医師が採用するかは、根拠を読めるかにかかっています。根拠が数字の塊になった瞬間、医師は判断材料を失います。

制度面も見ておきます。総務省と経済産業省は「AI事業者ガイドライン」第1.2版を2026年3月31日に公表しました。日本は法律で細かく縛らず、事業者が自らリスクを管理する「AIガバナンス」を重視する立場です。

柱は透明性と説明責任。裏を返せば、AIの中身を説明できないリスクは企業側が負うということです。モデルが思考を見せなくなっても、責任は利用企業に残ります。

よくある質問（FAQ）

Q1. Astraを使うと、もう思考過程は一切見られないのですか？

いいえ。パチョッキ氏によれば思考過程は現時点でも読める状態にあり、この技術の使用は限定的とされています。「全部見えない」ではなく「一部が見えない」が正確な理解です。

Q2. recurrent depthは危険な技術なのですか？

技術そのものに悪意はありません。小さいモデルで高い性能を出す効率化の工夫です。問題は副作用で、安全対策として頼ってきた「思考が読める」性質が性能向上の代償に失われる点が懸念されています。

Q3. 普通にChatGPTを使うだけの人にも影響がありますか？

使い勝手はむしろ良くなる可能性があります。応答が速くなり料金が下がる方向に働くからです。影響が出るのは判断根拠を確認したい場面。仕事の重要な判断や、間違いが許されない用途では問題になります。

Q4. 業界全体がこの方向に進むのは確定なのでしょうか？

まだ決まっていません。パチョッキ氏自身が「業界を挙げた競争は避けたい」と述べており、各社が自制する道は残されています。ただ1社が先行したとき他社が追随しない保証はなく、そこが研究者の最大の懸念です。

まとめ

OpenAIの次期モデルAstraが「recurrent depth（不透明な再帰）」を採用するとThe Informationが報道し、TechCrunchが2026年9月2日に研究者の反応を伝えました
同じ層に何度も通して思考を深める方式で、途中経過が文章ではなく数字の並びとして処理されます
安全対策の主力だったCoTモニタリング（思考過程の自動監視）が効かなくなる恐れがあり、Redwood ResearchのShlegeris氏らが懸念を表明しました
OpenAIのパチョッキ氏は「計算の深さはGPT-4並みで思考過程は今も読める」と反論しつつ、業界を挙げた競争は避けたいと述べています
日本では2026年3月31日公表のAI事業者ガイドライン第1.2版が透明性と説明責任を柱としており、説明できないリスクは利用企業側に残ります

まずは自社でAIを業務に組み込んでいる箇所を洗い出し、判断根拠をAIの思考過程以外の形で記録できているかを点検してみてください。