AIリスクの7割が壊滅級？MIT専門家272人の警告

監修者伊東雄歩

株式会社ウォーカー CEO。東北大学卒。MENSA会員、JDLA認定講師、健全AI教育協会理事。生成AI×教育・学習科学を専門とし、2億円超のシステム開発プロジェクトを統括。

taolis.net X note Voicy YouTube

MIT（マサチューセッツ工科大学）が世界37カ国の専門家272人に聞いた、最新のAIリスク調査がわかります
調べた24のリスクのうち18個が「壊滅的な被害」につながる確率10%超という衝撃の結果を解説します
特に危険とされた「バイオ兵器」「サイバー攻撃」など5つのリスクの中身を紹介します
被害を受ける人と、責任を負うべき人がズレているという問題点を整理します
日本のAI事業者ガイドラインや、私たちユーザーへの影響もやさしく説明します

「AIってそんなに危ないの？」と思ったことはありませんか。便利さばかりが話題になりますが、専門家たちは別の景色を見ています。

2026年6月、MITが発表した調査が世界に衝撃を与えました。AIのリスク24項目のうち、18項目が「壊滅的な被害」を引き起こす確率10%超と評価されたのです。この記事を読めば、その中身と私たちへの影響がわかります。

MIT調査でわかった「AIの壊滅的リスク」とは

調査をまとめたのは、MITの研究チーム「MIT FutureTech」です。

発表は2026年6月3日。日本でも6月18日にテックメディアが報じ、大きな話題になりました。

この調査の特徴は、参加した専門家の多さです。世界37カ国から272人の研究者・政策担当者・技術者が回答しました。

つまり、一部の悲観論者の意見ではありません。世界中のプロが集まって出した「総意」に近いものです。

調査の方法は「デルファイ法」と呼ばれます。専門家にアンケートを3回くり返し、意見を少しずつまとめていく手法のことです。

感情的な印象ではなく、何度も考え直したうえでの慎重な評価。だからこそ重みがあります。

「壊滅的」ってどれくらい？18のリスクが確率10%超

まず気になるのは「壊滅的」という言葉の意味ですよね。

この調査での定義はとても具体的です。100万人以上の死者、または1000億ドル（約15兆円）以上の経済損失。あるいは民主主義やプライバシーが崩れるような、社会全体への大きな害を指します。

そして衝撃の結果がこちらです。

調べた24のリスクのうち、18個が「壊滅的被害の確率10%超」（通常の状況のまま進んだ場合）
割合にすると、なんと全体の75%です
24個すべてが「確率5%以上」と判断されました

10%という数字を低いと感じる人もいるかもしれません。

でも考えてみてください。飛行機が10%の確率で墜落するなら、誰も乗りませんよね。被害が「数百万人規模」となれば、10%は決して無視できない数字です。

MITの主任研究員ニール・トンプソン氏も「専門家が10%もの確率を見ていること自体が、とても憂慮すべきだ」と述べています。

特に危険とされた5つのリスク

専門家たちは、今後5年で最も深刻になりそうなリスクの上位5つを挙げました。

危険な能力：AIが人間の制御を超えて高度な力を持つこと
競争力学：企業や国が開発を急ぎすぎて、安全対策が後回しになること
兵器とサイバー攻撃：新型のバイオ兵器づくりや、大規模なハッキングへの悪用
権力の集中：一部の企業や国にAIの力が偏ること
偽情報：本物そっくりのフェイクニュースや画像が社会を混乱させること

たとえば「競争力学」は、すでに身近な問題です。各社が「ライバルに勝ちたい」と急ぐあまり、安全テストを十分にしないまま新機能を出す。そんな場面が増えています。

「偽情報」も他人事ではありません。選挙のときに本物そっくりの偽動画が広まれば、何を信じればいいかわからなくなります。

被害を受ける人と、責任を負う人がズレている

この調査でいちばん考えさせられるのが、ここです。

専門家は「最も被害を受けやすいのは、AIを使う一般のユーザーや市民だ」と評価しました。

一方で「リスクを減らす責任があるのは、巨大AI企業や政府・規制機関だ」とも答えています。

つまり、被害を受ける人と、対策できる人が一致していないのです。

研究者のピーター・スラッタリー氏は、こう指摘しています。「AIのリスクを減らせる立場の人ほど、被害を受けにくい」。

これは「自分は安全な場所にいる人が、ルールを決めている」という状態に近いと言えます。だからこそ、ユーザー任せにせず、社会全体での仕組みづくりが必要になります。

ちなみに、特に弱い立場とされたのは「情報」「金融・保険」「国家安全保障」「医療・福祉」「教育」の5分野でした。

他のAIリスク評価とどう違う？

AIのリスクを語る取り組みは、これまでにもありました。代表的なものと比べてみましょう。

EUのAI法（AI Act）：リスクを4段階に分けて規制する法律。ただし「どれくらいの確率で起きるか」までは数字で示していません
各社のAI安全レポート：OpenAIやAnthropicなどが自社で公開。立場上、自社に都合のよい見方が入りやすい面があります
今回のMIT調査：特定の企業に偏らない272人が、確率と深刻度を数字で評価した点が新しい

つまり今回の調査の価値は「中立な専門家が、確率という形で危険度を見える化した」ところにあります。

「なんとなく危ない」ではなく「18個が10%超」と数字で示されたことで、政府や企業が動く根拠になります。これが今後のAIガバナンス（AIを安全に管理する仕組み）議論の土台になると見られています。

日本のユーザー・企業にどう関係する？

「海外の調査でしょ？」と思うかもしれません。でも日本も無関係ではありません。

日本では2026年3月に、総務省と経済産業省が「AI事業者ガイドライン（第1.2版）」を更新しました。

この改訂では、AIエージェント（人の代わりに作業を進めるAI）やフィジカルAI（ロボットなど現実世界で動くAI）への対応が加わりました。

さらに「人間の判断を必ず入れる仕組み」や「最小限の権限しか与えない設定」も明記されています。今回のMIT調査が指摘するリスクと、方向性が重なっています。

では、私たち個人や中小企業は何をすればいいのでしょうか。

ある中小企業の担当者が、AIに顧客リストを丸ごと預けて自動処理させる場面を想像してみてください。便利ですが、AIが誤作動すれば個人情報が一気に漏れる危険があります。

だからこそ「重要な判断は人間が最終確認する」「AIに渡す情報は必要最小限にする」。この2つを守るだけでも、リスクは大きく下げられます。

よくある質問（FAQ）

Q1. この調査は「AIは危険だから使うな」という意味ですか？

いいえ。調査は「リスクを正しく管理すれば被害を減らせる」とも示しています。実際、対策をすれば10%超のリスクは18個から5個に減ると評価されています。使うなではなく「賢く使おう」というメッセージです。

Q2. 10%という数字は信用できるのですか？

これは正確な予言ではなく、専門家たちの見積もりです。ただし37カ国272人が3回も考え直して出した数字なので、個人の予想よりはるかに慎重で信頼性が高いといえます。

Q3. いつまでのリスクを調べたのですか？

2025年後半から2030年までの、今後約5年間が対象です。遠い未来ではなく、すぐそこの話として評価されています。

Q4. 普通の人がいますぐできる対策はありますか？

あります。AIの回答をうのみにせず事実を確認する、個人情報を不用意に入力しない、本物そっくりの偽情報に注意する。この3つだけでも身を守る力になります。

まとめ

今回のポイントを振り返ります。

MITが37カ国272人の専門家に調査。24リスク中18個が「壊滅的被害の確率10%超」
「壊滅的」とは100万人以上の死者や15兆円超の損失など、社会規模の被害を指す
特に危険なのはバイオ兵器・サイバー攻撃・偽情報など5分野
被害を受ける人と責任を負う人がズレているのが大きな課題
日本でもAI事業者ガイドラインが更新され、人間の確認や最小権限が重視されている

まずは「AIの判断をうのみにせず、自分で一度確認する」習慣から始めてみましょう。それが、いちばん身近で確実なリスク対策になります。

参考文献

こんな時代だから遊んで学びたい

AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。

毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。

「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？

一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！

今すぐAIフレンズに参加して、未来への第一歩を踏み出そう！！