超知能AIを作ったら最高懲役20年？米国で「作ること自体」を禁じる法案を準備

Updated 2026/09/17

何が起きた？

米国のバーニー・サンダース上院議員とグレッグ・カサー下院議員が、人工超知能の開発・提供そのものを禁止する「Ban Artificial Superintelligence Act」を発表した。

2026年9月3日に内容が公表され、人工超知能は恒久的に禁止。それより手前にある「高度AI」についても、新たな連邦規制機関が安全ルールを整えるまで開発を一時停止する構想である。

違反した個人には最高20年の禁錮刑、企業には事業継続を不可能にするほどの厳しい制裁を設けるとしている。

ただし、9月17日時点では正式な法案番号や最終的な条文は確認できず、サンダース側も「提出予定の法案」と説明している。つまり、すでに成立した法律でも、正式な審議が始まった法律でもない。

簡単にいうと

これまでのAI規制は、「AIを犯罪に使ってはいけない」「個人情報を勝手に扱ってはいけない」といった、主にAIの使い方を規制するものが中心だった。

今回の構想は一段違う。

たとえるなら、「危険な運転を禁止する」のではなく、「人間が制御できないほど速い車は、そもそも作ってはいけない」という考え方である。

サンダースらは、一定の能力を超えたAIについては、安全に使えるかどうかを考える前に、存在させないことを法律で決めようとしている。

どんなAIが禁止される？

すべてのAIが禁止されるわけではない。

サンダース側の概要では、恒久禁止する「人工超知能」を大きく2種類に分けている。

一つは、幅広い分野で人間の認知能力と同等以上の能力を持つ、または簡単にそのような能力を持たせられるAI。

もう一つは、人間から権力を奪ったり、米国政府を弱体化・転覆したりする計画を立て、実行できるほど強力なAIである。

ここには大きな論点がある。

一般的な「超知能」という言葉からは、人類最高の天才をはるかに超えるAIを想像しやすい。しかし公表された概要には「人間の能力と同等または上回る」という表現があり、読み方によってはAGI（汎用人工知能）に近い段階まで対象になる可能性がある。

さらに、その手前にある「高度AI」についても一時的な開発停止を求めている。

ところが、どのモデルから「高度AI」と判断するのかという重要な境界線は、現在公表されている概要だけでは十分に分からない。

正式な条文が出た場合、最も重要な確認点の一つになる。

本当にAIを作ったら懲役20年？

単純に「高性能なAIを作った研究者は20年間刑務所に入る」という話ではない。

公表された概要では、この法律による開発停止や禁止措置に違反したり、それを回避しようとした個人について、最高20年の禁錮刑を科せるとしている。

あくまで最高刑であり、自動的に20年になるわけではない。

また、普通の研究者まで対象になるのか、経営者や開発責任者が中心なのか、故意に違反した場合だけなのかといった刑事責任の細かな条件は、正式条文が公開されていないためまだ分からない。

企業についてはさらに厳しく、サンダース側は「corporate death penalty」と表現している。

直訳すると「企業への死刑」だが、企業そのものを処刑するという意味ではなく、違反企業を解散させるなど、事業を続けられなくするほどの制裁を想定した表現である。

サンダース側は、最高20年という刑罰について、違法な核兵器関連活動に対する米国の刑罰と同程度だと説明している。

それだけ人工超知能を重大な危険として扱おうとしていることが分かる。

なぜ「作ること」まで禁止するの？

背景にあるのは、「非常に強力なAIを完成させた後で安全対策を考えても遅い」という考え方である。

現在のAIは基本的に、人間が開発し、人間が運用する道具である。

しかしAIがさらに自律的になり、自分で長期間の計画を立てたり、コンピューターシステムへアクセスしたり、人間による停止を回避したりする能力を持つようになれば、事故が起きた後に電源を切れば済むとは限らない。

サンダースらは最近のAIエージェントによる制御逸脱やサイバーセキュリティ上の問題などを挙げ、「人間が制御できなくなる前に止める必要がある」と主張している。

ただし、ここには強い反論もある。

AI研究者のゲイリー・マーカス氏は、AI規制機関の設置や一時停止を検討することには理解を示しながらも、超人的AI研究を永久に禁止するのは広すぎると批判している。

米国だけが開発を止めれば、他国が先に強力なAIを開発し、米国が技術的に遅れる可能性もあるためだ。

米国だけ禁止して意味がある？

サンダースらも、この問題は認識している。

そのため法案構想には、米国内だけを規制するのではなく、国際協定や同盟国との連携、輸出規制などによって、世界規模で人工超知能の開発を防ぐ方針も盛り込まれている。

発想としては、核兵器の拡散を防ぐ国際的な仕組みに近い。

しかしAIは核兵器とは性質が違う。

巨大な核施設や特殊な核物質が必要な核兵器と比べ、AIはコンピューターとソフトウェアを中心とした技術である。計算能力が十分に普及すれば、誰がどこで開発しているのかを完全に把握することは難しくなる。

中国をはじめ他国が参加しなければ、米国だけの禁止では効果が限られるという問題も残る。

米国では「AIを加速させる」政策とも正面衝突

さらに、この法案構想は現在の米政府のAI政策とはかなり方向が違う。

トランプ政権は2026年6月の大統領令で、過度な規制によってAI技術革新を妨げない方針を示した。

フロンティアAIについて政府と企業が安全性を確認する枠組みは設ける一方、AIモデルの開発や公開に対する強制的な政府許可制度を作るものではないことも明記している。

つまり米国では現在、

「中国などとの競争に勝つため、強力なAIをできるだけ早く開発する」

という考えと、

「人間が制御できなくなる可能性があるなら、完成する前に止める」

という考えがぶつかり始めている。

今回の法案構想が興味深いのは、罰則が重いことだけではない。

AI規制の議論がついに、「AIをどう安全に使うか」から「そもそも、どこまで賢いAIを作ることを許すのか」へ進んできたことである。

正式な条文が提出された場合、「超知能」と「高度AI」をどこで線引きするのかが最大の焦点になりそうだ。

超知能AIを作ったら最高懲役20年？ 米国で「作ること自体」を禁じる法案を準備