AIの承認が”ハンコ”化？74%導入の落とし穴

監修者伊東雄歩

株式会社ウォーカー CEO。東北大学卒。MENSA会員、JDLA認定講師、健全AI教育協会理事。生成AI×教育・学習科学を専門とし、2億円超のシステム開発プロジェクトを統括。

taolis.net X note Voicy YouTube

「このAI、たぶん合ってるよね」と思って、中身をよく見ずに「承認」ボタンを押したことはありませんか？

いま世界中の会社で、AIの仕事を人間がチェックする仕組みが「形だけ」になりつつあります。この記事では、なぜそれが起きるのか、そしてどう防げばいいのかを、やさしく解説します。

そもそも何が問題なの？AI承認の「形骸化」とは

いま話題のAIエージェント（人の指示で自分で考えて作業を進めるAI）は、メールの返信や書類の作成をどんどん自動でこなします。

でも、AIはときどき間違えます。だから多くの会社では「最後に人間が確認してOKを出す」というルールを作っています。これをヒューマン・イン・ザ・ループ（人間が判断の輪の中に入る仕組み）と呼びます。

ところが、ここに落とし穴がありました。

AIは1秒に何件もの作業を仕上げます。人間はその全部に目を通す時間がありません。結果、中身をよく見ないまま「OK」を連打するようになってしまうのです。

これが「形骸化（けいがいか）」、つまりルールはあるのに中身が空っぽになる状態です。

この問題を強く指摘したのが、アメリカの名門校MITスローン経営大学院です。

2026年5月に開かれた「MIT Sloan CIOシンポジウム」という経営者向けの会議で、専門家のトーマス・ダベンポート氏がこう語りました。

「人々は速く承認するようにせかされていて、じっくり関わる余裕がない」。

ダベンポート氏は、AIを監督する役目が「演技（パフォーマンス）」になっていると警告しました。承認しているフリだけになっている、という意味です。

数字を見ると、その深刻さがわかります。コンサル会社デロイトが2026年1月に発表した調査（世界24カ国・3,235人の経営層が回答）では、次のことがわかりました。

つまり、多くの会社が「アクセルは踏むけどブレーキは後回し」という状態なのです。

「ちゃんと見ればいいだけでは？」と思うかもしれません。でも、これは人の努力不足では片づけられない問題です。

人間にはオートメーション・バイアス（機械の判断を疑わずに信じてしまう心のクセ）があります。

研究では、AIがすすめてきた答えが間違っていても、人はそのまま受け入れてしまう傾向があるとわかっています。しかもこれは、監視の「仕組み」そのものが生む構造的な問題だと指摘されています。

身近な例で考えてみましょう。

ある経理担当者が、請求書をチェックするAIの結果を1日200件承認するとします。1件3秒。これでは、金額のミスがまぎれこんでも気づけません。

採用の現場でも同じです。応募者を選ぶAIの結果を、担当者が中身を見ずに通してしまえば、AIのかたよった判断がそのまま採用結果になります。

カスタマーサポートで、AIが書いた返信を「たぶん大丈夫」と送信すれば、失礼な文章がお客様に届くかもしれません。

どれも、悪気があるわけではありません。速さと量にせかされると、人の注意力は自然と落ちるのです。

AIをどう見張るかには、大きく3つのやり方があります。それぞれの違いを整理します。

ヒューマン・イン・ザ・ループ（HITL）：AIの1つ1つの判断に、必ず人がOKを出す方式。安全性は高いですが、件数が多いと人が追いつきません。今回問題になっているのはこの方式です。
ヒューマン・オン・ザ・ループ（HOTL）：AIは自分でどんどん動き、人は監督役として全体を見守る方式。おかしいときだけ止めます。スピードは出ますが、見逃しのリスクがあります。
ヒューマン・アウト・オブ・ザ・ループ（HOOTL）：人はほぼ関わらず、AIに任せきる方式。速いですが、リスクの高い仕事には向きません。

大切なのは「リスクが高い仕事ほど、人が近くにいる」という考え方です。

たとえば、給料の決定や解雇のような重い判断は、必ず人がしっかり確認すべきです。一方、社内メモの下書きのような軽い作業なら、AIに任せても大きな問題は起きにくいでしょう。

全部を同じルールで縛るのではなく、仕事の重さに合わせてやり方を変えることが、形骸化を防ぐ第一歩です。