AI開発は止める？競争する？ 「AI 2040」が示した超知能AIへの5つの道
何が起きた？
2026年7月9日、AIの未来予測を研究する非営利団体「AI Futures Project」が、新しいシナリオ 「AI 2040: Plan A」 を公開した。
この団体を率いるダニエル・ココタジロ氏は、OpenAIで将来シナリオなどを研究していた元ガバナンス研究者である。今回の文書はココタジロ氏のほか、トーマス・ラーセン氏、イーライ・リフランド氏ら計6人が執筆した。
ただし、これはOpenAIが発表した計画ではない。また、「2040年に超知能AIが誕生する」という未来予言でもない。
AI 2040が問いかけているのは、
「人間よりはるかに賢いAIを作れる時代が近づいたとき、世界はどの道を選ぶべきか」
という問題である。
中心となる選択肢は Plan A、B、C、D、Sの5系統。さらに詳しい比較資料では、Plan C+やPlan E、Plan Bの複数の形も検討されている。
著者ら自身が推しているのがPlan Aであり、AI開発競争を大幅に減速させ、米国や中国を含む国際的な協力体制を作ろうという大胆な案である。
簡単にいうと
AI開発を「ものすごく速い車」にたとえると分かりやすい。
現在はOpenAI、Google、Anthropicなどの企業や、米国と中国などが競争している。ライバルより先に高性能AIを作りたいので、全員がアクセルを踏んでいる状態である。
しかし、もしAIがAI研究そのものをできるようになれば、
AIがさらに優秀なAIを作る
→ そのAIがもっと優秀なAIを作る
→ 開発がさらに速くなる
という循環が起こる可能性がある。
これは「再帰的自己改善（RSI）」などと呼ばれる考え方である。
AI 2040の著者らは、この段階に入ってから安全策を考え始めても間に合わない可能性を心配している。
そこで、
全員でブレーキを踏むのか。
米国だけ少し減速するのか。
中国との差を広げて時間を稼ぐのか。
そのまま全速力で競争するのか。
いっそ開発を止めるのか。
という複数の進路を比較しているのである。
重要なのは、AI 2040の中心であるPlan Aは予測ではなく提案だという点だ。
著者らのシナリオでは、何もしなければ2030年ごろにAI研究がほぼ自動化され、その後急速に超知能へ進む可能性を想定している。
Plan Aはそれを意図的に遅らせ、安全性を研究しながら2040年まで超知能の開発を先送りする構想である。
だから名前が「AI 2040」なのである。
それで何が変わる？
現時点でAI 2040は政府の政策ではないため、私たちの生活がすぐ変わるわけではない。
しかし、この議論が重要なのは、AI政策の論点を「AIを規制するか、しないか」だけではなく、
「どの速度でAIを発展させるのか」
という問題まで広げていることである。
著者らが想定している世界では、AI向け半導体や巨大データセンターが核兵器に近い重要な戦略資源になる。
誰が高性能GPUを持っているのか。どこで巨大AIを訓練しているのか。秘密のAI開発計画は存在しないか。こうした情報を国家間で監視する仕組みまで必要になるという。
日本も完全に無関係ではない。
日本には半導体製造装置、半導体材料、データセンターなどAI開発につながる産業があり、米国とも安全保障上の関係が深い。
仮に将来、AI向け半導体や大規模データセンターを国際的に管理する制度が作られれば、日本企業や日本政府にも対応が求められる可能性がある。
AI 2040が示す全プランとは？
AI 2040本編で中心になるのは、A・B・C・D・Sの5系統である。
さらに比較資料ではC+とEも定義されている。単純な「AからEまでの5段階」ではないので注意が必要である。
| プラン | 簡単にいうと | 主な考え方 |
|---|---|---|
| Plan A | 世界で協力して大幅減速 | 米中などが合意し、AI開発を透明化しながら慎重に進める |
| Plan B | 中国との差を広げて時間を稼ぐ | 中国のAI開発を妨害し、そのリードを安全研究の時間に使う |
| Plan C+ | 政府の規制で減速 | 米国内を規制し、輸出規制などで中国も遅らせる |
| Plan C | AI企業自身が少し減速 | 先頭企業が競争上のリードの一部を安全研究に使う |
| Plan D | ほぼ全速力で競争 | 企業同士が知能爆発までほぼ最大速度で開発する |
| Plan E | 安全対策もほぼせず競争 | Plan D以上に安全研究への投資が少ない |
| Plan S | 最先端AIを長期間停止 | 少なくとも数年間、能力向上を止める |
Plan A：国際協力でブレーキを踏む
著者らが最も推している案である。
米国と中国などが協定を結び、最先端AI研究について大幅な透明化を進める。
そして一社だけが圧倒的なAIを独占するのではなく、複数の国と企業が同じ程度の能力を持ちながら、ゆっくり進歩する状態を目指す。
著者らのシナリオでは、2030年から2035年まで人間のトップ専門家程度まで慎重にAIを高性能化し、2035年にいったん停止。安全性を研究したうえで2040年に再び開発を進める。
さらに特徴的なのが「後戻りできる仕組み」である。
協定が崩壊して一国だけが超知能開発へ走った場合に備え、巨大データセンターの計算能力を停止・破壊できる仕組みまで検討している。
著者らはこれを、核兵器の「相互確証破壊」になぞらえた相互確証計算資源破壊という考え方で説明している。
かなり極端な案だが、それほど超知能AIを安全保障上の重大問題として見ているということである。
Plan B：中国のAI開発を妨害して時間を作る
国際協力が成立しない場合の、かなり強硬な案である。
米国が中国のAI開発能力を低下させてリードを広げ、その時間を安全研究に使う。
比較資料では、サイバー攻撃や供給網への妨害などに限る形と、ドローンや通常兵器による大規模攻撃まで選択肢に入れる形を分けている。
つまりPlan Bは単なる「AI規制」ではなく、場合によっては深刻な米中対立を伴う。
著者ら自身も、Plan Aより望ましくない道として扱っている。
Plan C+：政府が国内規制を強める
Plan Bほど攻撃的ではない。
米国政府が自国内のAI開発を規制して速度を落とし、中国についても半導体の輸出規制などを使って開発速度を抑えようとする。
中国のAI施設を直接妨害することは想定しない。
Plan Aのような大規模な国際協定が成立しなくても実行しやすい一方、米中の競争そのものは残る。
Plan C：AI企業が自主的に少し減速する
政府による大規模規制ではなく、先頭を走るAI企業が競争上のリードを安全対策に使う案である。
たとえばライバルより半年先を走っている企業が、その半年をさらに高性能なAIを作ることだけに使うのではなく、安全研究にも回す。
他のAI企業と協調して少し開発を遅らせることも考えられる。
Plan Aに比べれば現実的に見える一方、競争相手が減速してくれる保証はない。
Plan D：ほぼ全速力のAI競争
現在のAI競争をそのまま続けることに最も近い。
企業は安全研究も行うが、それによって大幅に開発を遅らせることはしない。
ライバルより早く次のAIを作るため、AI自身をAI研究に投入しながら、ほぼ最大速度で能力を高めていく。
著者らが特に危険視するのがこのシナリオである。
AI 2040のモデルでは、人間レベルのAI研究自動化から、人間が制御できなくなるほど強力なAIまでの期間が、Plan Aでは約6年なのに対し、Plan Dでは約1年と試算されている。
ただし、この数字は実測値ではない。
著者自身が、こうした確率や期間の数値には大きな不確実性があると明記している。
Plan E：安全研究すらほとんど行わない
Plan Eは本編の主要分岐というより、比較資料上の分類である。
Plan Dでも安全研究には一定の資源を使うが、Plan Eでは安全対策に投入する資源が全体の1％未満と定義されている。
つまり、
「とにかく性能向上を最優先する」
もっともアクセル寄りの道である。
Plan S：最先端AI開発を長期間止める
反対に、もっとも強いブレーキがPlan Sである。
最先端AIの能力向上を少なくとも数年間停止し、安全性について十分な研究が進むまで再開しない。
一見すると最も安全そうに見える。
しかし著者らは、完全停止にも問題があると考えている。
ある程度までAIを進歩させれば、そのAI自身を安全研究や監視技術の開発に利用できる。早い段階で完全停止すると、その恩恵も得られないからである。
このため著者らはPlan Sではなく、
「止めるのではなく、安全を確認できる速度まで落として進む」
Plan Aを推している。
なぜPlan Aを推す？ 本当に実現できる？
AI 2040の比較資料では、Plan AほどAIの能力向上に長い時間をかけるほど、安全研究にも多くの時間と計算資源を投入できると評価している。
一方、Plan Dのような競争状態では、
「安全確認のため半年止まりたいが、ライバルは止まってくれない」
という問題が発生する。
企業にとっても国家にとっても、自分だけが減速すると競争に負ける恐れがある。
そのため著者らは、安全性を高めるには企業の善意だけでは足りず、主要国が同時に減速する仕組みが必要だと考えている。
ただし、Plan Aには巨大な問題がある。
米国と中国がAI研究について大規模な情報共有を受け入れるのか。
企業が重要な研究成果を公開するのか。
秘密のデータセンターを本当に発見できるのか。
GPUの移動を世界規模で追跡できるのか。
国家間の協定が破られた場合、誰がどのように判断するのか。
どれも簡単な問題ではない。
著者ら自身も、Plan Aのすべてに高い自信を持っているわけではない。公式資料では、米中の巨大データセンターを特定の第三国に配置するといった具体案について、確信度の低い提案であることも明示している。
また、2030年にAI研究が完全自動化されるという年代も確定した予測ではない。
したがってAI 2040は、
「2040年にこうなる」という予言として読むものではない。
むしろ、
「AIが人間より賢くなり始めたとき、アクセルを踏み続ける以外にどんな選択肢があるのか」
を具体的に考えるための政策シナリオである。
そして最も重要なのは、おそらく個々の年号ではない。
現在のAI競争が続けば、いずれ私たちは「どこまで速く進めるのか」「誰がAIを管理するのか」「安全確認のために競争を止められるのか」という問題に直面する可能性がある。
AI 2040は、その議論をかなり早い段階から始めようとしているのである。