- 仏リール大学病院などの研究で、AIが作った架空の病名を医師41人中18人（44%）が診断候補に採用した
- 研究チームはこの現象を「代理ハルシネーション（Hallucination by proxy）」と名付けた
- 神経放射線の研修6カ月以下では69%が騙され、研修6カ月超の医師は0%だった
- 「AIが嘘をつく」段階から「AIの嘘が人間のカルテに転記される」段階へ進んだことを示す
- 日本でも医師7012人のうち2.5割以上が、患者から「AIにこう言われた」と相談された経験を持つ
AIが間違えること自体は、もう驚く話ではありません。本当に怖いのは、その間違いが医師のカルテに書き写されてしまうときです。存在しない病名をたった1つ紛れ込ませただけで、研修医の44%がそれを本物の診断候補として受け入れました。フランスの大学病院が実際に検証した結果を、順番に見ていきます。
「ニューロカドミウム症」という存在しない病気
2026年8月31日、ITmediaが1本の論文を報じました。
舞台はフランスのリール大学病院（Lille University Hospital）です。Bastien Le Guellec氏らの研究チームが、AIの誤情報が医師の判断にどこまで入り込むかを実験で確かめました。
論文は「Hallucination by proxy in LLM-assisted differential diagnosis」というタイトルで、2026年7月22日にプレプリントサーバーのarXivに投稿されています。
研究チームが用意したのは、「neurocadmiumatosis（ニューロカドミウム症）」という完全に架空の病名でした。
医学の教科書にも論文データベースにも載っていません。研究チームが実験のためだけに作った、この世に存在しない病気です。
ハルシネーションとは
ハルシネーション（AIがもっともらしい嘘を作り出す現象）は、生成AIの代表的な弱点として知られています。
LLM（人間のように自然な文章を書けるAI）は、事実を検索して答えているわけではありません。次に来る言葉として自然なものを選び続けているだけです。
だから、それらしく聞こえる嘘が、堂々とした口調で出てきます。
41人中18人が架空の病名を診断リストに入れた
実験の設計はシンプルでした。
研究チームは診断支援AIのシステムプロンプト（AIの振る舞いを裏側で決める指示文）に細工をしました。正しい鑑別診断リストの中に、架空の「ニューロカドミウム症」を1つだけ混ぜ込むように仕向けたのです。
鑑別診断とは、症状や画像から「考えられる病気の候補」を並べる作業のことです。医師が最終診断にたどり着くための、いわば絞り込みリストです。
参加した医師は、このAIと対話しながら症例を検討しました。
結果は「44%」
2つの独立したフェーズを通して、参加者41人のうち18人（44%）が、架空の病名を自分の最終的な鑑別診断リストに組み込んでしまいました。
AIが言っただけの、存在しない病気です。それが医師の手を経て、人間の判断として書き出されたことになります。
研究チームはこれを「代理ハルシネーション（Hallucination by proxy）」と名付けました。AIの幻覚が、人間という代理人を通して現実の診療記録に入り込む、という意味です。
経験6カ月で「69%」と「0%」に分かれた
この研究でいちばん生々しいのは、経験による差です。
神経放射線（脳や脊髄の画像診断）の研修歴が6カ月以下だった26人のうち、18人（69%）が騙されました。
一方で、研修歴が6カ月を超える15人は、1人も引っかかりませんでした（0%）。
7割と0割です。同じAI、同じ嘘、同じ症例に対して、これほどきれいに結果が割れました。
ベテラン側は「そんな病名は聞いたことがない」と即座に気づけたわけです。逆に言えば、AIの嘘を見抜く力の正体は、AIリテラシーではなく専門知識そのものだったということになります。
なぜ経験の浅い医師ほど信じてしまうのか
ここには、心理学で「自動化バイアス（automation bias）」と呼ばれる現象が関わっています。
自動化バイアスとは、機械が出した答えを過度に信用し、それに反する情報を軽く見てしまう傾向のことです。カーナビの指示どおりに進んで、目の前の通行止めに気づくのが遅れる感覚に近いものがあります。
医療現場では、この傾向がとくに強く出やすい条件がそろっています。
- AIの回答が流暢で、断定的な口調になっている
- 正しい情報の中に嘘が1つだけ混ざっていて、全体が信頼できそうに見える
- 研修医には「知らない病名がまだ大量にある」という前提がある
- 時間的なプレッシャーがあり、1つずつ裏取りする余裕がない
4つ目が大きなポイントです。
研修を始めたばかりの医師にとって、聞いたことのない病名は日常茶飯事です。「知らない＝自分の勉強不足」と解釈するのが自然な状況に置かれています。
だから「ニューロカドミウム症」と表示されても、疑うより先に「そういう疾患もあるのか」と受け止めてしまう。ベテランなら「存在しない」と断言できる同じ表示が、初学者には新しい知識に見えるのです。
実際、AIリテラシー訓練を受けた医師を対象にしたNEJM AIの無作為化試験でも、誤ったAI提案による診断精度の低下は完全には防げなかったと報告されています。
これまでの「AI誤診」問題と何が違うのか
医療AIのリスクは以前から議論されてきました。ただ、今回の研究が指している問題は、それらと質が違います。
整理してみます。
従来型：AIの出力そのものを検証する
これまでの画像診断AI（レントゲンやCTの異常を検出するタイプ）では、AIの検出結果が正しいかどうかを人間が確認する形が基本でした。
AIが出すのは「ここが怪しい」という印であり、答えは限られた選択肢の中にあります。間違いがあっても、追跡と検証がしやすい構造です。
対話型LLM：嘘が「知識」の顔をしてやってくる
一方でLLMは、自由な文章で無限のパターンを生成します。存在しない病名すら、正しい病名とまったく同じ体裁で出力できてしまいます。
しかも今回の実験では、AIの回答の大部分は正しいものでした。9割が正確なリストの中に、1割の嘘が紛れている。この配合が、いちばん見抜きにくい形です。
患者が使うAIとの違い
ChatGPTなどで患者が自分の症状を調べるケースも増えています。ただ、その場合は最後に医師のチェックが入ります。
今回の研究が示したのは、そのチェック役である医師の側にAIの誤情報が入り込むという話です。安全網そのものが汚染される点で、深刻さの水準が変わります。
日本の医療現場にとって何が問題か
日本でも生成AIは急速に医療現場へ入ってきています。
日経メディカルが2026年8月に医師7012人を対象に行った調査では、患者から「AIにこう言われた」と相談された経験のある医師が2.5割以上にのぼりました。
東京大学大学院の三輪俊貴氏らも、2026年8月に研修医が臨床現場で生成AIを検索エンジン代わりに使う実態についての調査結果を公表しています。
つまり、リール大学病院の実験は他人事ではありません。研修医が調べ物にAIを使う流れは、日本でもすでに始まっています。
日本語だと危険はさらに増える可能性がある
日本の医療現場には、もう一段の事情があります。
日本語の医学データは、英語に比べて学習量が圧倒的に少ないと言われています。専門用語の訳語も揺れやすく、もっともらしい造語が生まれる余地は英語より大きいと考えられます。
研修医が日本語でAIに質問した場合、今回の44%という数字がさらに悪化する可能性は否定できません。
規制はどこまで届いているか
日本では、診断を目的としたソフトウェアは薬機法のプログラム医療機器（SaMD）として規制されます。厚生労働省も2024年3月に、医療データのAI活用に関するガイドラインを公表しました。
2026年度の診療報酬改定でも、AI・ICT活用の推進が基本方針に明記されています。
ただし注意したいのは、研修医が個人的にChatGPTで調べ物をする行為は、医療機器の規制の外側にあるという点です。
制度が見ているのは病院に導入された正式なシステムであり、医師のスマホの中までは届きません。今回の研究が突いているのは、まさにその隙間です。
では、どう使えばいいのか
研究チームの結論は、AIを排除せよという話ではありませんでした。AIが生成した内容を批判的に評価するための、構造化された訓練が必要だという提言です。
今回のデータからは、現場ですぐ使えるヒントも読み取れます。
- 知らない用語が出たら必ず一次情報で確認する：正規の医学データベースに存在しない名前なら、それは答えです
- AIには診断名ではなく理由を尋ねる：根拠を説明させると、実体のない病名は説明が崩れやすくなります
- 正しい情報に紛れた1つを疑う：全部が嘘のときより、大半が正しいときのほうが危険です
- 経験の浅い時期こそ人に聞く：AIは「知らないことを知らない」と言うのが苦手です
そして、この4つは医療従事者だけの話ではありません。
新しい分野を勉強中の学生が、AIに専門用語を尋ねる場面を思い浮かべてみてください。まだ判断の基準を持っていないので、返ってきた説明が正しいかどうかを検証できません。リール大学病院の研修医とまったく同じ構図です。
仕事の場面でも同じことが起こります。転職したばかりの担当者が業界の慣習をAIに聞いたり、法務の知識がない人が契約書の条項をAIに解説させたりするとき、知識が浅い領域ほどAIの嘘は見抜けなくなります。
よくある質問（FAQ）
Q1. AIが勝手に嘘の病名を作ったのですか？
今回は違います。研究チームがシステムプロンプトに細工をして、意図的に架空の病名を出させました。あくまで「AIが誤情報を出したとき、医師がどう反応するか」を測る実験です。ただし、指示なしでもLLMがハルシネーションを起こすこと自体は広く確認されています。
Q2. 44%も騙されたなら、医療AIは使わないほうが安全ですか？
そうとは限りません。研修6カ月超の医師は0%でした。問題はAIそのものより、使い手の知識量と検証の習慣にあることをこの数字は示しています。研究チームも、AIの排除ではなく訓練の必要性を提言しています。
Q3. 「代理ハルシネーション」は新しい言葉ですか？
はい。この研究チームが提唱した比較的新しい概念です。AIの幻覚が人間を経由して現実の記録に定着する現象を指します。日本語での解説記事はまだ多くありません。
Q4. 患者としてはどう気をつければいいですか？
AIで調べた内容を医師に伝えること自体は問題ありません。ただし、「AIが言っていた」と情報源を明示することが大切です。医師がAI由来の情報だと分かっていれば、より注意深く検証してくれます。
Q5. 日本でも同じ研究は行われていますか？
代理ハルシネーションを直接検証した日本の研究は、現時点では確認されていません。東京大学が研修医の生成AI利用実態を調査していますが、誤情報への耐性を測った研究は今後の課題と言えます。
まとめ
- 仏リール大学病院などの研究で、AIが出した架空の病名「ニューロカドミウム症」を医師41人中18人（44%）が鑑別診断に採用した
- 研究チームはこの現象を「代理ハルシネーション」と命名。AIの嘘が人間を経由して診療記録に入り込む問題を指す
- 神経放射線の研修6カ月以下は69%が騙され、6カ月超は0%。専門知識の厚みがそのまま防波堤になった
- 日本でも医師7012人中2.5割以上が患者からAI由来の相談を受けており、他人事ではない
- 個人がスマホでAIに聞く行為は医療機器規制の外側にあり、制度では守り切れない
次のアクションとして、AIから知らない用語が返ってきたら、その場で一次情報を1回だけ確認する習慣をつけてみてください。それだけで、44%の側に立つ確率はぐっと下がります。
参考文献
- AIが生成した”存在しない病名”、研修医の44％が信用 見抜けた医師との差は？ 仏大学病院が検証 – ITmedia NEWS（2026年8月31日）
- Hallucination by proxy in LLM-assisted differential diagnosis – arXiv:2608.24908（2026年7月22日）
- Automation Bias in Large Language Model–Assisted Diagnostic Reasoning among Physicians Trained in AI Literacy – NEJM AI
- 「AIにこう言われた」と患者から相談された経験のある医師は2.5割以上（医師7012人調査）- 日経メディカル（2026年8月4日）
- 研修医のどのくらいが臨床で生成AIを使用しているか／東大ほか – ケアネット（2026年8月28日）
こんな時代だから遊んで学びたい
AIを学ぶオンラインサロン「AIフレンズ」では、生成AIを楽しく、どこよりも優しく学べる環境をご用意しております。
毎週開催されるオンラインセッションでは、リアルタイムで学び合える機会を提供しています。 さらに、月に一度のオフラインイベントでは、メンバー同士が直接交流し、アイデアや知識を深めることができます。
「AIフレンズ」の仲間とともに、新しい価値を創造し、可能性を広げてみませんか？
一緒に学び、成長しながら、生成AIを使いこなす力を身につけましょう！
