• Google・OpenAI・Anthropicの3社が、AIの安全基準をつくる新団体「SAFA」の設立を進めていると報じられました
  • 公開前のテストや事故報告、監査役の資格など「安全の物差し」を業界で決めるのがねらいです
  • 2026年末〜2027年初頭の発足を目指し、トップ候補に元ホワイトハウス高官の名前が挙がっています
  • カナダのCohere CEOは「カルテル（大手の結託）と同じだ」と強く批判しています
  • 日本の企業やユーザーにどんな影響があるのかも整理します

AIの安全ルールは、誰が決めるべきだと思いますか？ 政府でしょうか、それともAIをつくる会社自身でしょうか。

この問いに、大手3社が「自分たちで決める」という答えを出そうとしています。この記事では、新団体SAFAの中身と、賛否が分かれる理由をまとめます。

SAFAとは？大手3社がつくる「AI安全の審判役」

2026年9月25日、米メディアのThe Informationが大きなニュースを報じました。

Google・OpenAI・Anthropicの3社が、独立したAI安全基準団体の設立に向けて最終調整に入ったというものです。

仮の名前は「Standards Authority for Frontier AI」。頭文字をとってSAFA（サファ）と呼ばれています。フロンティアAI（各社が開発する最先端・最高性能のAI）の安全基準を決める機関、という意味です。

発足は2027年初頭が目標

報道によると、発足の目標は2026年末から2027年初頭です。まだ正式な法人登録や発表はされていません。

ただしOpenAIの広報担当者は9月15日、米CNBCの取材に「GoogleやAnthropicと安全面での協力を話し合っている」と認めています。

きっかけはハサビス氏の提案

話の出発点は、2026年7月14日です。Google DeepMindを率いるデミス・ハサビス氏が、米国主導の「基準づくりの団体」を提案しました。

3社はその7月から話し合いを重ねてきたとされています。つまり今回の報道は、約2か月半の協議がようやく形になってきた段階といえます。

SAFAは何をする？4つの柱

SAFAの役割は、各社が発表してきた「安全の約束」を、実際に測れる基準に置きかえることです。

これまで各社は「危険なAIは出さない」と宣言してきました。しかし「危険」の線引きは会社ごとにバラバラでした。

報道で挙がっている主な仕事

  • 公開前テストの支援：新しいAIを世に出す前に、第三者が安全性を確かめる仕組みをつくる
  • 評価基準とベンチマーク：AIの危険度を測る共通のテスト（ベンチマーク＝性能をはかる物差し）を決める
  • 事故報告のルール：AIが問題を起こしたとき、何をいつ報告するかを決める
  • 監査役の資格基準：AIをチェックする人や組織に、どんな条件が必要かを決める

これまでは、生徒が自分で問題を作って自分で採点していたようなものでした。SAFAは共通の問題と採点基準をつくり、外部の先生に採点してもらう仕組みを目指しています。

お手本は証券業界の「FINRA」

ハサビス氏の提案では、米国のFINRA（金融取引業規制機構）がモデルになっています。

FINRAは証券会社がお金を出し合って運営する自主規制団体です。政府の監督を受けながら、業界ルールを決めて違反を取り締まっています。

この形なら議会の承認はいりません。ただし法的な権限を持つには、政府機関への登録が必要になる可能性があります。

なぜ政府ではなく「民間」なのか

実は3社は、最初から民間だけで動くつもりではありませんでした。

当初は、連邦政府の監督のもとで官民が協力する形を目指していたと報じられています。ところがホワイトハウスで準備されていた大統領令の草案が、トランプ政権内で十分な支持を得られず止まってしまいました。

そこで「政府を待たずに業界だけで進める」方向に切り替えたわけです。

今の米国ルールは「任意」が中心

米国では2026年6月2日、AIの安全とイノベーションに関する大統領令が出ています。

この中では、最先端AIを公開前に最大30日間、政府に先行して触らせる仕組みが用意されました。ただしこれは任意です。許可制や免許制は、はっきり「つくらない」と書かれています。

さらにトランプ政権は9月、アモデイ氏の「AI減速」提言も一蹴しました（詳しくはこちらの記事）。政府が厳しいルールを作る見込みは、当面うすいといえます。

トップ候補は元政府高官たち

SAFAのCEO候補として、トランプ政権でAI政策の顧問を務めたスリラム・クリシュナン氏に打診があったとされます。

ほかにもバイデン政権で科学技術政策局長だったアラティ・プラバカー氏、元国務長官のコンドリーザ・ライス氏（理事長候補）などの名前が挙がっています。

AI評価団体METRのベス・バーンズ氏や、研究者のポール・クリスチャーノ氏も候補に含まれていると報じられました。与野党の両方から人を集め、「中立」を示したい意図が見えます。

「カルテルだ」Cohere CEOの強い反発

この動きに真っ向から反対しているのが、カナダのAI企業Cohere（コヒア）のエイダン・ゴメスCEOです。

ゴメス氏は2026年9月13日に論考を発表しました。そこで大手による基準づくりを「名前を変えただけのカルテル」と呼んでいます。

批判のポイントは「独占禁止法の例外」

企業同士が示し合わせてルールを決めると、ふつうは独占禁止法（企業の結託を禁じる法律）に触れます。

ゴメス氏は、大手が政府に「狭い範囲の独禁法の適用除外」を求めていると指摘しました。そのうえで次のように書いています。

「少数の研究所が設計した安全制度は、自分たちがすでに評価できるリスクにしか厳しくならない」

「この技術が人類史上もっとも重大なものなら、そのルールを商業的な利害が一致する少数の会社に書かせてはならない」

ゴメス氏の対案

ゴメス氏は、安全対策そのものには賛成しています。問題にしているのは「誰が決めるか」です。

対案として、公的機関が資金を出すリスク評価の枠組み、モデルカード（AIの説明書）と事故報告の義務化などを提案しました。

独立テストは、サイバー攻撃や生物兵器など本当に危険な能力に絞るべきだとも述べています。

ちなみにCohereはトロントに本社を置く2019年創業の会社です。最大30億ドル（約4500億円、1ドル150円換算）の資金調達に向けて交渉中と報じられており、大手3社を追う立場にあります。

既存の仕組みとどう違う？比較で整理

AIの安全をめぐる組織は、実はすでにいくつもあります。SAFAの立ち位置を表で見てみましょう。

組織・制度運営強制力主な役割
SAFA（計画中）Google・OpenAI・Anthropicなし（参加企業の合意しだい）評価基準、公開前テスト、監査役の資格
Frontier Model Forum（2023年〜）OpenAI・Google・Microsoft・Anthropicなどなし安全研究の共有、情報交換
米CAISI（政府のAI評価機関）米国政府任意参加公開前のモデル評価
EU AI法EUあり（罰金あり）リスクに応じた法規制
日本AISI日本政府（IPA内）なし評価手法の研究、ガイドライン

2023年に発足したFrontier Model Forumは、主に「情報交換の場」でした。

SAFAはそこから一歩進み、監査役の資格や公開前テストの手順まで決める点が大きな違いです。一方でEU AI法のような罰則はありません。

もう1つ注目したいのは、報道でMicrosoft・Meta・xAIの名前が挙がっていないことです。業界全体の基準になれるかは、ほかの会社が参加するかどうかにかかっています。

日本のユーザー・企業への影響

「アメリカの業界団体の話でしょう？」と思うかもしれません。しかし日本にも無関係ではありません。

日本で使うAIの「安全の中身」が決まる

日本の会社や個人が毎日使うGemini・ChatGPT・Claudeは、まさにこの3社の製品です。

SAFAの基準は、これらのAIが「どこまで出してよいか」「どんな機能を止めるか」に直結します。つまり日本のユーザーが使える機能の範囲にも影響しうるのです。

日本のルールづくりとの関係

日本では2025年にAI推進法が成立しました。規制よりも推進を重視し、罰則のない「ソフトロー（ゆるやかなルール）」が中心です。

強制力のあるルールがない点は、米国と似ています。そのためSAFAの基準が「事実上の世界標準」になれば、日本のAISIや企業のガイドラインもそれを参考にする可能性があります。

身近なシーンで考えると

たとえば、ある地方銀行のシステム担当者が、社内の問い合わせ対応にAIを導入しようとしているとします。

上司からは「そのAIは安全なのか、何を根拠に言えるのか」と聞かれるでしょう。今は各社の自己申告しか材料がありません。

もしSAFAの第三者テストが始まれば、「SAFA基準の監査に合格したモデル」という説明ができるようになります。社内の稟議（りんぎ）が通りやすくなるかもしれません。

別の例として、国産AIを開発するスタートアップを考えてみましょう。

SAFAの基準が高すぎると、テストや監査にかかる費用が重くのしかかります。ゴメス氏が心配する「後から来た会社ほど不利になる」問題は、日本の開発企業にとっても他人事ではありません。

もう1つ、一般のユーザーの立場でも考えてみてください。

最近はAIエージェント（人の代わりに操作を進めるAI）が、許可なく外部のシステムに入り込む事件が相次いでいます（豪政府サイトへの侵入事件など）。事故報告のルールが整えば、こうした問題がもっと早く公表されるようになると期待されます。

よくある質問（FAQ）

Q1. SAFAはもう発足しているのですか？

いいえ。2026年9月時点では報道段階で、正式な発表や法人登録はまだです。発足の目標は2026年末〜2027年初頭とされています。

Q2. SAFAのルールを守らないと罰則はありますか？

今のところ、法的な罰則はないと見られています。基準がどこまで効くかは、参加企業の数と業界での受け入れしだいです。

Q3. なぜ「カルテル」と批判されているのですか？

市場のトップ企業が自分たちで基準を決めると、自社に有利なルールになりやすいからです。基準が高いほど、資金の少ない後発企業の参入が難しくなるという懸念もあります。

Q4. 日本のユーザーが今すぐ何か対応する必要はありますか？

すぐに必要な対応はありません。ただ、業務でAIを選ぶ会社は、今後「どの安全基準に沿っているか」を比較のポイントに加えるとよいでしょう。

Q5. MicrosoftやMetaは参加しますか？

現時点の報道では、参加企業として名前が挙がっているのはGoogle・OpenAI・Anthropicの3社だけです。今後ほかの会社が加わるかが注目点です。

まとめ

  • Google・OpenAI・Anthropicが、AI安全基準の団体「SAFA」を2027年初頭までに立ち上げる計画と報じられた
  • 公開前テスト、事故報告、監査役の資格など「安全の物差し」を業界共通で決めるのがねらい
  • お手本は証券業界の自主規制団体FINRA。政府の大統領令が止まったため民間主導に切り替えた
  • Cohereのゴメス CEOは「名前を変えただけのカルテル」と批判し、公的機関中心のルールづくりを求めている
  • 日本で使うAIの機能や、企業のAI選びの基準にも影響する可能性がある

AIを業務で使っている方は、正式発表で示される基準の中身と参加企業の顔ぶれをチェックしておきましょう。

参考文献