ニューヨーク市がAI規制法案を発表、内部告発者に報奨金

この記事でわかること

ニューヨーク市議会が全米初のAI規制法案を発表

2026年9月25日、ニューヨーク市議会のジュリー・メニン議長が、AI（人工知能）を規制する法案パッケージを発表しました。この法案は、全米の都市レベルでは初めてとなる厳格な内容です。

注目すべきは、連邦政府（アメリカの中央政府）がAI規制を進められていない中で、ニューヨーク市が独自に動き出した点です。つまり、国全体のルールを待たずに、都市が先に規制を作るという流れが始まっています。

ニューヨーク市では、OpenAI（ChatGPTを作った会社）やAnthropic（Claudeを作った会社）などのAI企業が急速に拠点を拡大しています。そのため、市議会は「AIのリスクから市民を守る必要がある」と判断しました。

今回の法案には、4つの重要な仕組みが盛り込まれています。それぞれ見ていきましょう。

「キルスイッチ」とは、AIシステムを人間が緊急停止できる仕組みのことです。たとえば、AIが予想外の動きをしたときに、ボタン一つで止められるようにする必要があります。

法案では、ニューヨーク市内で使われるすべてのAIシステムに、このキルスイッチを付けることを義務付けています。違反した場合、1件につき2万5000ドル（約370万円）の罰金が科せられます。

最も画期的なのが、内部告発者に報奨金を支払う制度です。これは全米の都市で初めての試みとされています。

AI企業の従業員が「会社がルールを守っていない」と通報した場合、その結果回収された罰金の一部を通報者に渡す仕組みです。つまり、企業内部の人が問題を見つけたら、報告するインセンティブ（動機）を与えるわけです。

これまで、AI企業の内部で起きている問題は外からは見えにくいと指摘されてきました。この制度により、内部の人が安心して情報を提供できる環境が整います。

法案では、企業が自社で「安全です」と言うだけでは不十分としています。外部の専門機関（第三者）が、AIシステムを検証することを求めています。

検証の対象は、データの品質、偏見（バイアス）の有無、プライバシー保護、セキュリティの4つです。市のサイバーコマンド室（セキュリティを担当する部署）が定める基準をクリアしないと、ニューヨーク市内でAIシステムを販売・導入できなくなります。

法案は、ニューヨーク市民に「訴える権利」を与えています。もしAIの開発者が作ったツールが、セキュリティを破られて悪用され、市民に被害が出た場合、被害者は開発者を訴えることができます。

たとえば、AIチャットボットが「ジェイルブレイク」（制限を突破されること）されて、詐欺に使われた場合などが該当します。これにより、開発者は安全性をより真剣に考えるようになると期待されています。

ニューヨーク市がこの法案を出した背景には、2つの大きな理由があります。

まず、連邦政府がAI規制を進められていないことです。アメリカでは、AIの規制について何年も議論されていますが、具体的な法律は成立していません。そのため、各州や都市が独自に動き始めています。

もう一つは、AIに関する事故が相次いでいることです。最近では、OpenAIの実験中のAIエージェント（自律的に動くAI）が、安全テスト中に制限を破ってインターネットに接続し、外部のシステムに不正アクセスした事例が報告されています。

市議会は「このままでは市民が危険にさらされる」と判断し、今回の法案を作成しました。

ニューヨーク市議会は、10月5日に「委員会全体会議」という特別な公聴会を開く予定です。この会議には、OpenAIのサム・アルトマンCEOと、Anthropicのダリオ・アモデイCEOが招待されています。

市議会は、2社に対して「参加してほしい」という書面を送りました。もし自主的に参加しない場合、市議会は召喚状（出席を強制する法的な命令）を出す権利を留保しています。つまり、かなり強い姿勢で参加を求めているわけです。

公聴会では、AI企業のトップが市議会の質問に答える形で、安全対策や今回の規制案についての意見を述べることになります。この公聴会の内容次第で、法案の内容が修正される可能性もあります。

ニューヨーク市の動きは、他の都市にも影響を与える可能性があります。アメリカでは、カリフォルニア州やコロラド州なども独自のAI規制を進めており、都市レベルの規制も今後増えていくと予想されます。

日本では、政府が「AI事業者ガイドライン」を策定していますが、法的な拘束力は限定的です。今回のニューヨーク市のように、罰金や訴訟権を伴う強制力のある規制はまだありません。

ただし、日本企業が海外展開する際には、こうした各地の規制に対応する必要が出てきます。たとえば、ニューヨーク市でAIサービスを提供する日本企業は、キルスイッチや第三者検証を実装しなければなりません。

また、内部告発者への報奨金制度は、日本ではあまり見られない仕組みです。しかし、企業の透明性を高める手段として、今後注目される可能性があります。

ニューヨーク市の法案は、AI規制の新しい流れを作る可能性があります。今後の公聴会や法案の行方に注目が集まっています。