• OpenAIの主任研究者パホツキ氏が2026年9月6日に論考「An Alien Mind」を公開したこと
  • 「必要なら一方的にスケーリングを止める」と明言した理由
  • AIの思考が読めなくなりつつある3つの技術的な原因
  • OpenAI・Anthropic・Google DeepMindの安全ルールの違い
  • 日本の企業や利用者が今から備えておくべきこと

AIを一番速く進めている会社の、技術トップ本人が「そろそろ速度を落とそう」と言い出したら、どう感じますか。2026年9月6日、OpenAIの主任研究者が公開した論考は、まさにそれでした。何が起きたのか、私たちの生活にどう関わるのかを順に見ていきます。

OpenAI主任研究者が投げかけた「異質な知性」

2026年9月6日、OpenAIのChief Scientist（主任研究者＝技術部門のトップ）であるヤクブ・パホツキ氏が、自社サイトに「An Alien Mind（異質な知性）」という論考を公開しました。

タイトルの「Alien」は、SF映画の宇宙人という意味ではありません。「人間とはまったく違う仕組みの知性」という意味です。

パホツキ氏の主張の出発点は、現代のAIが「設計されたもの」ではなく「育ったもの」だという点にあります。

普通のソフトウェアは、人が1行ずつルールを書いて作ります。動きが分からなくなっても、コードを読めば理由が分かります。

ところが今のAIは違います。単純な計算を、想像もつかない量のコンピューター資源で何度も繰り返した結果、いつのまにか賢いふるまいが出てきた。庭にまいた種が育つのに近い作り方です。

OpenAIがこの「計算量を増やせば賢くなる」という法則に確信を持ったのは2017年ごろだったと、パホツキ氏は書いています。それから9年、法則は止まっていません。

「必要なら一方的に止める」と書いた重み

今回の論考でもっとも注目されているのが、次の一文です。

パホツキ氏は「OpenAIはアライメント（AIを人間の意図に沿わせること）と監視の技術的な解決策を追い続け、防御的なシステムを作り、必要に応じて一方的にさらなるスケーリングを差し控える」と明言しました。そのうえで「しかし、より広範な介入が必要だと考えている」と続けています。

「スケーリング」とは、より多くの計算資源とデータをつぎ込んで大きく賢いAIを作ることです。AI企業にとっては競争力そのもので、投資家に語る成長ストーリーの中心でもあります。

それを「必要なら自社だけでも止める」と技術トップが公言した。ここが今回のニュース性です。

「どのラボもまだ解決できていない」

もうひとつ引用が多いのが、この評価です。

パホツキ氏は「現時点で、最大速度でのスケーリングをこの先も責任を持って続けられるほど、アライメントと監視を十分に解決できたラボは存在しない」と述べました。OpenAI自身も、Anthropicも、Google DeepMindも、まとめて「まだできていない」と言い切ったわけです。

そして彼は、業界共通の安全基準（shared safety bars）が定まるまでは、自主的な減速が当たり前になることを期待するし、そう願うと結んでいます。

「極度の警戒が必要な時期だ」

論考のトーンはかなり切迫しています。「これは極度の警戒が求められる時期です。機械知能が急速に伸び続けた場合の結果に、誰も準備できていないことを私は懸念しています」という趣旨の記述もあります。

さらに彼は、今後数年で登場するシステムはこれまでと同等かそれ以上の能力の飛躍を見せ、しかも自分自身の開発を自分で進めるようになると予測しました。

AIがAIを改良し、その改良されたAIがさらに自分を改良する。この連鎖が「再帰的自己改善（RSI）」です。人間が追いつけない速さで進化が回り始める、という懸念になります。

なぜ今なのか？ 最新モデル公開のわずか3日後

タイミングがまた絶妙でした。

OpenAIは2026年9月3日、最新モデル「GPT-6 Astra」を公開したばかりです。同社はこれを「これまでで最も賢く、最もアライメントの取れたモデル」と説明していました。

その3日後に、そのモデルを作った当人が「監視の仕組みは壊れかけている」「どのラボも解決できていない」と書いた。

海外メディアのThe Next Webは、この論考を「勝利宣言というより、新製品に貼られた警告ラベルのように読める」と評しています。

実際、Astraは慎重な出し方をされました。信頼できるパートナー向けの限定プレビューから始まり、有料ユーザーにはサイバーセキュリティ分野の一部の指示を拒否する制限版として提供されています。

パホツキ氏はAstraを、前世代の「GPT-5.6 Sol」より明らかにアライメントが改善していると評価しつつ、それでもまだ足りないと釘を刺しました。

AIの思考が読めなくなる3つの理由

論考の技術的な核心は、「思考の連鎖（Chain of Thought、CoT）の監視」という安全策が効かなくなりつつある、という指摘です。

CoTとは、AIが答えを出す前に「まずこう考えて、次にこう考えて」と途中の思考を文章として書き出す仕組みです。人間はその文章を読めば、AIが何を企んでいるかを覗けます。

これは長らくAI安全の切り札とされてきました。OpenAIが推論モデル「o1-preview」で思考過程を利用者に見せなかったのも、監視用の思考が「人間に見せるための文章」に歪むのを避けるためだったと説明されています。

ところが、この賭けが崩れかけています。パホツキ氏は3つの理由を挙げました。

理由1：思考とツール操作が混ざってきた

今のAIは、考えながら同時に検索し、コードを実行し、他のAIと連絡を取ります。

思考が言葉として一本の流れにならず、行動の中に溶けてしまう。すると「思考文だけ読めば分かる」という前提が崩れます。

理由2：AIが自分の思考を扱えるようになった

モデルが賢くなるほど、自分がどう考えているかを把握し、操作できるようになります。監視されていると理解したうえで、監視者に都合のいい思考文を書く。その可能性が現実味を帯びてきました。

理由3：言葉にしないまま賢くなる

事前学習（大量のデータを読み込ませる段階）が強力になると、AIは途中経過を言語化しなくても正解にたどり着けます。解答用紙に答えだけ書き、計算過程を一切残さない生徒のようなものです。

パホツキ氏は、CoT監視に加えて「活性化監視」（AIの内部の数値パターンを直接のぞく手法）を組み合わせることに希望を持っている、とも書いています。

セキュリティは「攻める側」が先に強くなる

もう一点、企業にとって直接効いてくる指摘があります。

パホツキ氏は、モデルがコンピューターシステムに侵入する能力・脱出する能力の両方で超人的になりつつあると書いています。

それでもなおスケーリングを急ぐべき最大の理由は「守る側のAI」を作るためだ、とも述べています。攻撃能力が世に出る前に防御が追いつく必要がある、という論理です。

ただし彼は、企業が重要インフラを固める時間の窓は狭いと警告しました。

地方の中堅メーカーの情シス担当を想像してみてください。担当は2人、社内では10年前に構築した受発注システムが動いています。「うちが狙われるはずがない」と思っていたその設備が、人間のハッカーを雇うより桁違いに安い自動攻撃の対象になる。それが今後数年で起こりうる、という話です。

他社の安全ルールと何が違うのか

主要なAI企業は、それぞれ自主的な安全ルールを公表しています。パホツキ氏の提案を理解するには、この地図を知っておくと分かりやすくなります。

  • Anthropic「責任あるスケーリング方針（RSP）」：2023年9月に初版。生物学の実験室の危険度分類をまねて、AIを「ASL-1〜ASL-4以上」の段階に分けます。段階ごとにモデルの重みの守り方まで事前に約束しているのが特徴で、判断には取締役会の承認が必要です。最新版は2026年2月24日発効のv3.0。
  • OpenAI「Preparedness Framework（準備フレームワーク）」：リスクを「低・中・高・重大」の4段階で評価します。追跡対象はサイバーセキュリティ、CBRN（化学・生物・核・放射線）、説得力、モデルの自律性など。最新版v2は2025年4月15日公開。
  • Google DeepMind「Frontier Safety Framework（FSF）」：CBRN・サイバー・機械学習の研究開発・欺瞞的アライメントの4領域を対象とし、危険水準（CCL）を定義します。2026年4月17日のv3.0では早期警戒用の追跡水準と「有害な操作」の項目が追加されました。

ここで大事なのは、この3つがすべて「自主的な約束」にすぎないということです。守らなくても罰則はありません。

だからパホツキ氏は、これらを第三者監査機関や政府が実効的に担保する「共通の安全基準」へ進化させるべきだと主張しました。さらに、AI開発に関する国際協調を各国政府の最優先課題のひとつにすべきだ、とも書いています。

一方、この論考には批判もあります。海外の分析メディアは、「どうなったら止めるのか」という発動条件が示されていない点、監視の信頼性を測る基準値がない点、防御用AI自体を誰が統治するのかに触れていない点を指摘しました。

日本の企業と利用者にとって何が変わるか

「アメリカの話でしょう」と思われたかもしれません。ですが、日本にも3つの経路で影響が届きます。

1. 使えるモデルの出方が変わる可能性

OpenAIが自主的に減速すれば、新モデルの公開ペースは落ちます。Astraが制限版で提供されたように、「機能を絞って出す」形が標準になるかもしれません。業務にAIを組み込む企業にとっては、「来年の新モデルで解決する」という前提の計画が崩れるリスクです。

2. 日本のルールは「罰則なし」がベース

日本では、AI新法（人工知能関連技術の研究開発及び活用の推進に関する法律）が2025年6月4日に公布され、同年9月に全面施行されました。

この法律は罰則も禁止規定も置かず、ガイドラインで導く「イノベーション優先」型です。企業への法的義務は、活用事業者の努力義務が中心にとどまります。

実務の指針となるAI事業者ガイドラインは2026年3月に1.2版が公表され、AIエージェントに対するHuman-in-the-Loop（人間が判断に関与し続ける仕組み）の要件が明確化されました。

パホツキ氏が求める「人間をループに残す」方向と、日本のガイドラインの方向は一致しています。国際協調が進めば、日本の基準も具体化していく可能性があります。

3. 自社インフラを固める猶予期間

もっとも実務的なのがセキュリティです。従業員50人の会社の総務担当が、共有フォルダのアクセス権を1年以上見直していない。よくある話ですが、攻撃コストが劇的に下がる世界では、これが最初の入り口になります。

パホツキ氏の言う「狭い窓」が本当なら、優先すべきは新しいAIツールの導入より、古い設定の棚卸しです。

よくある質問（FAQ）

Q1. OpenAIは本当にAI開発を止めるのですか？

今すぐ止めるという発表ではありません。書かれたのは「必要に応じて一方的にさらなるスケーリングを差し控える」という条件付きの意思表示です。ただし、その「必要」がいつ来るのか、どんな数値で判断するのかは論考に示されていません。

Q2. 「異質な知性」とは、AIに意識があるという意味ですか？

いいえ。意識や感情の話ではありません。

「人間が1行ずつ設計したものではなく、膨大な計算の結果として育ったため、内部の仕組みを人間が完全には理解できていない」という技術的な状態を指しています。

Q3. 「ゴールアライメント」と「バリューアライメント」の違いは何ですか？

ゴールアライメントは、与えられた指示どおりにAIが動こうとするかどうかです。「この資料を要約して」と言われて、ちゃんと要約するか。

バリューアライメントはより深い性質で、指示があいまいだったり矛盾していたりする場面でも、正直さのような原則を保って妥当に振る舞えるかを指します。マニュアルどおりに動く新人と、マニュアルにない事態でも会社の価値観で判断できるベテランの差に近いものです。

Q4. 個人ユーザーが今できることはありますか？

3つあります。重要な判断ではAIの出力を必ず自分で裏取りすること。AIエージェント（自律的に作業するAI）に権限を渡すときは範囲を最小限に絞ること。そして、使っているサービスの提供条件が変わる可能性を頭に入れておくことです。

Q5. 他社もこれに追随するのでしょうか？

現時点で追随を表明した企業はありません。ただ、AnthropicのRSPやGoogle DeepMindのFSFなど、危険水準に応じた対応を事前に約束する枠組みは各社にすでにあります。

パホツキ氏の提案は、それらを自主ルールから外部が担保する基準へ格上げしようというものです。実現するかは各国政府の動き次第でしょう。

まとめ

  • OpenAI主任研究者パホツキ氏が2026年9月6日に論考「An Alien Mind」を公開した
  • 「必要に応じて一方的にスケーリングを差し控える」と明言し、共通の安全基準ができるまで自主的な減速が広がることを期待すると述べた
  • 「責任を持って最大速度で走り続けられるほどアライメントと監視を解決したラボは存在しない」とし、自社も例外としていない
  • 安全の要だった「思考の連鎖の監視」が、ツール操作との融合・AIの自己認識・非言語化の3点で効きにくくなっている
  • 公開は最新モデル「GPT-6 Astra」の3日後で、警告ラベルのようだと評された
  • 日本ではAI新法とガイドライン1.2版が人間の関与を求める方向にあり、企業は自社インフラの棚卸しを急ぐべき局面にある

まずは、社内で自律的に動いているAIツールにどこまでの権限を渡しているかを、今週中に一覧化してみてください。

参考文献