何が起きた？

2026年7月9日、AIの未来予測を研究する非営利団体「AI Futures Project」が、新しいシナリオ 「AI 2040: Plan A」 を公開した。

この団体を率いるダニエル・ココタジロ氏は、OpenAIで将来シナリオなどを研究していた元ガバナンス研究者である。今回の文書はココタジロ氏のほか、トーマス・ラーセン氏、イーライ・リフランド氏ら計6人が執筆した。

ただし、これはOpenAIが発表した計画ではない。また、「2040年に超知能AIが誕生する」という未来予言でもない。

AI 2040が問いかけているのは、

「人間よりはるかに賢いAIを作れる時代が近づいたとき、世界はどの道を選ぶべきか」

という問題である。

中心となる選択肢は Plan A、B、C、D、Sの5系統。さらに詳しい比較資料では、Plan C+やPlan E、Plan Bの複数の形も検討されている。

著者ら自身が推しているのがPlan Aであり、AI開発競争を大幅に減速させ、米国や中国を含む国際的な協力体制を作ろうという大胆な案である。

簡単にいうと

AI開発を「ものすごく速い車」にたとえると分かりやすい。

現在はOpenAI、Google、Anthropicなどの企業や、米国と中国などが競争している。ライバルより先に高性能AIを作りたいので、全員がアクセルを踏んでいる状態である。

しかし、もしAIがAI研究そのものをできるようになれば、

AIがさらに優秀なAIを作る
→ そのAIがもっと優秀なAIを作る
→ 開発がさらに速くなる

という循環が起こる可能性がある。

これは「再帰的自己改善（RSI）」などと呼ばれる考え方である。

AI 2040の著者らは、この段階に入ってから安全策を考え始めても間に合わない可能性を心配している。

そこで、

全員でブレーキを踏むのか。
米国だけ少し減速するのか。
中国との差を広げて時間を稼ぐのか。
そのまま全速力で競争するのか。
いっそ開発を止めるのか。

という複数の進路を比較しているのである。

重要なのは、AI 2040の中心であるPlan Aは予測ではなく提案だという点だ。

著者らのシナリオでは、何もしなければ2030年ごろにAI研究がほぼ自動化され、その後急速に超知能へ進む可能性を想定している。

Plan Aはそれを意図的に遅らせ、安全性を研究しながら2040年まで超知能の開発を先送りする構想である。

だから名前が「AI 2040」なのである。

それで何が変わる？

現時点でAI 2040は政府の政策ではないため、私たちの生活がすぐ変わるわけではない。

しかし、この議論が重要なのは、AI政策の論点を「AIを規制するか、しないか」だけではなく、

「どの速度でAIを発展させるのか」

という問題まで広げていることである。

著者らが想定している世界では、AI向け半導体や巨大データセンターが核兵器に近い重要な戦略資源になる。

誰が高性能GPUを持っているのか。どこで巨大AIを訓練しているのか。秘密のAI開発計画は存在しないか。こうした情報を国家間で監視する仕組みまで必要になるという。

日本も完全に無関係ではない。

日本には半導体製造装置、半導体材料、データセンターなどAI開発につながる産業があり、米国とも安全保障上の関係が深い。

仮に将来、AI向け半導体や大規模データセンターを国際的に管理する制度が作られれば、日本企業や日本政府にも対応が求められる可能性がある。

AI 2040が示す全プランとは？

AI 2040本編で中心になるのは、A・B・C・D・Sの5系統である。

さらに比較資料ではC+とEも定義されている。単純な「AからEまでの5段階」ではないので注意が必要である。

Plan A：国際協力でブレーキを踏む

著者らが最も推している案である。

米国と中国などが協定を結び、最先端AI研究について大幅な透明化を進める。

そして一社だけが圧倒的なAIを独占するのではなく、複数の国と企業が同じ程度の能力を持ちながら、ゆっくり進歩する状態を目指す。

著者らのシナリオでは、2030年から2035年まで人間のトップ専門家程度まで慎重にAIを高性能化し、2035年にいったん停止。安全性を研究したうえで2040年に再び開発を進める。

さらに特徴的なのが「後戻りできる仕組み」である。

協定が崩壊して一国だけが超知能開発へ走った場合に備え、巨大データセンターの計算能力を停止・破壊できる仕組みまで検討している。

著者らはこれを、核兵器の「相互確証破壊」になぞらえた相互確証計算資源破壊という考え方で説明している。

かなり極端な案だが、それほど超知能AIを安全保障上の重大問題として見ているということである。

Plan B：中国のAI開発を妨害して時間を作る

国際協力が成立しない場合の、かなり強硬な案である。

米国が中国のAI開発能力を低下させてリードを広げ、その時間を安全研究に使う。

比較資料では、サイバー攻撃や供給網への妨害などに限る形と、ドローンや通常兵器による大規模攻撃まで選択肢に入れる形を分けている。

つまりPlan Bは単なる「AI規制」ではなく、場合によっては深刻な米中対立を伴う。

著者ら自身も、Plan Aより望ましくない道として扱っている。

Plan C+：政府が国内規制を強める

Plan Bほど攻撃的ではない。

米国政府が自国内のAI開発を規制して速度を落とし、中国についても半導体の輸出規制などを使って開発速度を抑えようとする。

中国のAI施設を直接妨害することは想定しない。

Plan Aのような大規模な国際協定が成立しなくても実行しやすい一方、米中の競争そのものは残る。

Plan C：AI企業が自主的に少し減速する

政府による大規模規制ではなく、先頭を走るAI企業が競争上のリードを安全対策に使う案である。

たとえばライバルより半年先を走っている企業が、その半年をさらに高性能なAIを作ることだけに使うのではなく、安全研究にも回す。

他のAI企業と協調して少し開発を遅らせることも考えられる。

Plan Aに比べれば現実的に見える一方、競争相手が減速してくれる保証はない。

Plan D：ほぼ全速力のAI競争

現在のAI競争をそのまま続けることに最も近い。

企業は安全研究も行うが、それによって大幅に開発を遅らせることはしない。

ライバルより早く次のAIを作るため、AI自身をAI研究に投入しながら、ほぼ最大速度で能力を高めていく。

著者らが特に危険視するのがこのシナリオである。

AI 2040のモデルでは、人間レベルのAI研究自動化から、人間が制御できなくなるほど強力なAIまでの期間が、Plan Aでは約6年なのに対し、Plan Dでは約1年と試算されている。

ただし、この数字は実測値ではない。

著者自身が、こうした確率や期間の数値には大きな不確実性があると明記している。

Plan E：安全研究すらほとんど行わない

Plan Eは本編の主要分岐というより、比較資料上の分類である。

Plan Dでも安全研究には一定の資源を使うが、Plan Eでは安全対策に投入する資源が全体の1％未満と定義されている。

つまり、

「とにかく性能向上を最優先する」

もっともアクセル寄りの道である。

Plan S：最先端AI開発を長期間止める

反対に、もっとも強いブレーキがPlan Sである。

最先端AIの能力向上を少なくとも数年間停止し、安全性について十分な研究が進むまで再開しない。

一見すると最も安全そうに見える。

しかし著者らは、完全停止にも問題があると考えている。

ある程度までAIを進歩させれば、そのAI自身を安全研究や監視技術の開発に利用できる。早い段階で完全停止すると、その恩恵も得られないからである。

このため著者らはPlan Sではなく、

「止めるのではなく、安全を確認できる速度まで落として進む」

Plan Aを推している。

なぜPlan Aを推す？　本当に実現できる？

AI 2040の比較資料では、Plan AほどAIの能力向上に長い時間をかけるほど、安全研究にも多くの時間と計算資源を投入できると評価している。

一方、Plan Dのような競争状態では、

「安全確認のため半年止まりたいが、ライバルは止まってくれない」

という問題が発生する。

企業にとっても国家にとっても、自分だけが減速すると競争に負ける恐れがある。

そのため著者らは、安全性を高めるには企業の善意だけでは足りず、主要国が同時に減速する仕組みが必要だと考えている。

ただし、Plan Aには巨大な問題がある。

米国と中国がAI研究について大規模な情報共有を受け入れるのか。

企業が重要な研究成果を公開するのか。

秘密のデータセンターを本当に発見できるのか。

GPUの移動を世界規模で追跡できるのか。

国家間の協定が破られた場合、誰がどのように判断するのか。

どれも簡単な問題ではない。

著者ら自身も、Plan Aのすべてに高い自信を持っているわけではない。公式資料では、米中の巨大データセンターを特定の第三国に配置するといった具体案について、確信度の低い提案であることも明示している。

また、2030年にAI研究が完全自動化されるという年代も確定した予測ではない。

したがってAI 2040は、

「2040年にこうなる」という予言として読むものではない。

むしろ、

「AIが人間より賢くなり始めたとき、アクセルを踏み続ける以外にどんな選択肢があるのか」

を具体的に考えるための政策シナリオである。

そして最も重要なのは、おそらく個々の年号ではない。

現在のAI競争が続けば、いずれ私たちは「どこまで速く進めるのか」「誰がAIを管理するのか」「安全確認のために競争を止められるのか」という問題に直面する可能性がある。

AI 2040は、その議論をかなり早い段階から始めようとしているのである。

情報源

• AI Futures Project「AI 2040: Plan A」
• AI Futures Project「Comparing Possible Plans」
• AI Futures Project「Plan A Assumptions」
• AI Futures Project「AI 2040: Plan A — The least bad plan we currently know of」
• AI Futures Project「About」

The post AI開発は止める？競争する？　「AI 2040」が示した超知能AIへの5つの道 first appeared on 世界一わかりやすいニュースAI解説.

何が起きた？

2026年9月9日、米ニュースサイトAxiosは、AI企業Anthropicの現職・元研究者3人が、将来のAIが人類に壊滅的な被害を与える可能性について相次いで強い警告を出したと報じました。

きっかけはAnthropicを退職した研究者Jacob Coxon氏です。Coxon氏はOpenAIとAnthropicで合わせて約3年間、AIモデルを作るための「事前学習」の研究に携わっていました。

Coxon氏は退職時、OpenAIとAnthropicについて、自己改善する超知能へ向けた競争を続け「私たちの命を賭けている」と批判しました。

さらに、「AIを作っている人々は、AIが2020年代の終わりまでに私たち全員を殺す可能性があると本気で考えている」と主張しました。

これだけなら退職者1人の告発です。

ところが、AnthropicでAIの安全性研究を率いるEvan Hubinger氏がこれに同意しました。

Hubinger氏は、AIが全人類を死に至らせる可能性について、自分自身は「今後10年間で10％を超える」と考えていると説明しました。

さらにAnthropicのSamuel Marks氏も、AI開発者が人類滅亡、あるいはそれに匹敵する重大な結果を現実のリスクとして考えており、「数年以内」に起きる可能性もあるとの認識を示しました。

ただし、この「10％」は研究で算出された数字でも、Anthropicの公式予測でもありません。Hubinger氏個人のリスク評価です。

簡単にいうと

研究者たちが恐れているのは、現在のClaudeが突然「人間を滅ぼそう」と考え始めるような話ではありません。

もっと重要なのは、

AIが、次のAIを作るようになること

です。

これを「再帰的自己改善」と呼びます。

たとえば、最初は人間がAIを作ります。

そのAIがプログラミングを手伝えば、人間は次のAIをもっと速く作れるようになります。

さらに賢くなったAIが、AI研究そのものを行うようになれば、

人間
↓
AIを開発
↓
AIが次のAI開発を支援
↓
さらに賢いAIが次のAIを開発
↓
もっと速く進歩

という循環が始まります。

言ってみれば、これまでは人間が自転車をこいでAIを進化させていたのに、途中からAI自身がエンジンを取り付け始めるようなものです。

Anthropic自身も2026年、「When AI builds itself」という資料を公開し、この方向への変化が実際に起きていると説明しています。

同社によると、2026年5月時点ではAnthropicのコードベースに取り込まれるコードの80％以上をClaudeが作成していました。

AI研究の実験をAI自身に進めさせる取り組みも始まっています。

ただしAnthropicは、完全な自己改善にはまだ到達しておらず、将来必ず実現するとも限らないとしています。

それで何が変わる？

このニュースを「今すぐChatGPTやClaudeを使うのは危険」という意味に受け取る必要はありません。

Hubinger氏自身も、現在提供されているAIモデルによる制御不能リスクは低いと説明しています。

2026年の国際AI安全性報告書も、現在のAIには人間の制御を失わせるほどの能力はまだないとしています。

問題なのは、その先です。

AIが長期間自律して行動し、コンピューターを操作し、自分で計画を立て、AI研究までできるようになれば、人間が一つ一つの行動を確認することが難しくなります。

さらにAIが、

• 監視されていることを理解する
• テストの抜け穴を探す
• 人間に都合の悪い行動を隠す
• 停止されないよう行動する

といった能力まで身につければ、「人間が最後には電源を切ればよい」という考え方も通用しなくなる可能性があります。

実際、国際AI安全性報告書は、現在のAIに制御喪失を起こす能力はないとする一方、長期計画や評価の抜け穴探し、テスト環境を認識する能力などは向上していると指摘しています。

つまり、

危険なAIがすでに完成したのではなく、その危険につながり得る部品が少しずつ揃い始めている

というのが研究者たちの懸念です。

危険だと思うなら、なぜ開発を続ける？

ここが今回のニュースで最も重要な部分です。

「10％以上の確率で人類が滅亡すると思っているなら、AI開発をやめればいい」

普通ならそう考えます。

しかしAI企業には、非常に大きな競争問題があります。

Anthropicが開発を止めても、OpenAIやGoogle、Meta、中国企業などが研究を続ければ、より強力なAIを他社が先に完成させる可能性があります。

すると各社は、

自分たちが止まっても、他社は止まらない

と考えます。

さらに、

どうせ誰かが作るなら、安全性を重視する自分たちが先に作った方がよい

という論理も生まれます。

結果として、

「全員が少し速度を落とした方が安全だと思っているのに、誰も最初には止まりたくない」

という状況になります。

Axiosはこれを、AI企業が抱える大きなジレンマとして紹介しています。

遅くすれば競争に負けるかもしれない。

速くすれば安全技術が追いつかないかもしれない。

しかも米中のAI競争もあるため、一企業だけで解決できる問題ではありません。

そのためAnthropic自身も、企業の自主判断だけではなく、政府による規制を求めています。

Anthropicが2026年に公開した政策案では、危険なAIについて独立した安全評価を行い、重大な危険が確認された場合には政府が提供を阻止できる制度まで提案しています。

AIを作っている会社自身が、

「場合によっては政府が私たちのAIを止められる仕組みが必要だ」

と主張しているわけです。

「人類滅亡10％」はどこまで信じればいい？

ここは慎重に見る必要があります。

Hubinger氏の「10％超」という数字には、統計的な裏付けはありません。

超知能を100回作って10回人類が滅亡した、というデータがあるわけではないからです。

技術の進歩速度、安全研究の状況、AIが自己改善できる可能性などを考えた研究者個人の主観的な確率です。

したがって、

「研究によってAIによる人類滅亡確率が10％と判明した」

と受け取るのは間違いです。

専門家の間でも意見は大きく分かれています。

2026年の国際AI安全性報告書では、将来AIが人間の制御から外れ、人類滅亡にまで至る可能性を真剣に考える研究者がいる一方、そのようなシナリオは現実的ではないと考える研究者もいると整理されています。

現時点では、どちらが正しいのかを証明する方法はありません。

Axios自身も今回の警告について、こうした将来予測は現時点では検証も評価もできないと認めています。

それでも今回のニュースが無視できないのは、警告しているのが外部の評論家ではなく、実際に最先端AIを開発している研究者たちだからです。

今回明らかになったのは、

「AIが人類を滅ぼすことが分かった」

ということではありません。

むしろ、

「最先端AIを作っている人たち自身にも、十分に安全に制御する方法がまだ分からない」

という事実です。

そしてAI自身がAI開発を手伝う割合が急速に増えているため、安全性の研究が能力向上に追いつくのかが、これからの大きな焦点になります。

情報源

• Axios「Anthropic insiders warn AI could kill all humans」
• Anthropic「When AI builds itself」
• Anthropic「Anthropic’s Responsible Scaling Policy」
• Anthropic「Policy on the AI Exponential」
• International AI Safety Report「2026 Report: Extended Summary for Policymakers」

The post Anthropic研究者「AIが全人類を殺す可能性10％超」　なぜ作っている本人たちが恐れているのか first appeared on 世界一わかりやすいニュースAI解説.

何が起きた？

Metaのマーク・ザッカーバーグCEOは2026年8月10日、「The Future is for Everyone」と題した長文を公開し、同社が目指すAIの将来像を明らかにしました。

中心にあるのは、非常に高性能なAIを一部の企業や政府だけが使うのではなく、一人ひとりが自分専用のAIを持つという構想です。

Metaはこれを「personal superintelligence（個人向け超知能）」と呼んでいます。

ザッカーバーグ氏によると、将来の個人AIは利用者本人やその目標、大切にしていることを理解し、健康、仕事、お金、家事、趣味、人間関係などについて24時間365日、本人のために働くものになるとしています。

無料版を数十億人に提供し、より多くの計算能力を使いたい人には有料で提供する構想も示しました。

ただし、これは新しいAIサービスが今回発売されたという話ではありません。

Metaが「これからどんなAIを作ろうとしているのか」を示した将来構想です。

簡単にいうと

イメージとしては、「自分のことをよく知っていて、いつでも働いてくれる専属秘書」です。

現在のAIでは、人間が「これを調べて」「これを書いて」「この予定を教えて」と頼む使い方が中心です。

Metaが描いている個人AIでは、さらにその先へ進みます。

たとえばザッカーバーグ氏は、自分のAIが睡眠を確認したり、運動している様子を見て助言したり、娘と週末に作る料理を考えて材料を注文したりする例を挙げています。

AIメガネなどを通じて現実世界の状況も理解し、必要なときに手伝うことも想定されています。

つまり、

「質問すると答えてくれるAI」

から、

「自分の生活や目標を理解し、必要な仕事を継続して手伝うAI」

へ変えようとしているわけです。

それで何が変わる？

この構想が実現すると、AIは今よりも生活の奥深くに入ってくる可能性があります。

仕事の資料作成や検索だけでなく、勉強、健康管理、家事、買い物、資産管理、新しい商品の開発、会社経営などを、一つの個人AIが継続して支援するようになるかもしれません。

Metaは特に、AIを「人間の仕事を自動化するもの」だけではなく、一人の人間ができることを増やす道具として使うべきだと主張しています。

ザッカーバーグ氏は、少人数でも大きな事業を運営できるようになり、新しい会社や仕事が増えることで、長期的には雇用が増える可能性があると予測しています。

ただし、これはMeta側の予測です。

AIによって実際に仕事が増えるのか、それとも自動化によって減るのかは、まだ分かっていません。

また、個人AIが生活を深く理解するほど、予定、仕事、健康、家族、趣味など大量の個人情報を扱うことになります。

Metaはその対策として、Meta自身でさえ利用者の情報を見ることができない「完全なプライベートモード」を作る方針を示しています。WhatsAppのエンドツーエンド暗号化に近い考え方です。

ただし、この仕組みの具体的な仕様や提供時期はまだ示されていません。

今のChatGPTやClaudeと何が違う？

実は、Metaが説明している機能の一部は、すでに現在のChatGPTやClaudeでも始まっています。

ChatGPTには「メモリ」があり、過去の会話やファイル、接続したアプリなどから利用者に関する情報を覚え、今後の回答に反映できます。OpenAIは2026年6月にも、長期間にわたる利用者の好みやプロジェクト、条件などをより適切に整理して記憶する仕組みを発表しています。

さらにChatGPTでは、指定した時間に仕事を行う「スケジュール済みタスク」や、定期的に情報を確認して変化があった場合だけ知らせる「モニタリングタスク」も利用できます。対応するアプリと連携して仕事を行う機能もあります。

Claudeも同じ方向へ進んでいます。

Anthropicが2026年6月に発表した「Claude Tag」では、ClaudeがSlack上の情報から仕事の背景を覚え、必要な情報を自発的に知らせたり、数時間から数日かかる仕事を自分で予定して進めたりできます。現時点では主に企業やチーム向けの機能です。

つまり、

「利用者を覚える」
「自分から情報を知らせる」
「人間が離れていても仕事を進める」

という部分だけを見ると、Metaの構想は完全に新しいわけではありません。

大きな違いは、その範囲です。

現在のChatGPTやClaudeは、基本的には人間が「この仕事をして」「これを監視して」と仕事を渡します。

Metaが描いている個人AIは、「この人は何を大切にしていて、何を目指しているのか」まで継続的に理解し、そのために必要なことをAI自身が考えて動くことを目指しています。

たとえば現在なら、

「毎朝ニュースを調べて」

とAIへ指示します。

Metaの構想では、

「この人の仕事や興味から考えると、今日はこのニュースを知っておいた方がいい」

とAI側が判断するイメージです。

さらにMetaは、スマホやパソコンだけでなく、AIメガネなどを通じて個人AIを利用することも想定しています。

そのため、

今のChatGPTやClaude＝「頼めば仕事をしてくれるAI」

に対して、

Metaが目指す個人AI＝「自分を理解し、必要な仕事を探して24時間動くAI」

という違いがあります。

もっとも、ChatGPTやClaudeもすでに後者へ近づき始めています。

そのため、Metaだけがまったく別のAIを作ろうとしているというより、AI業界全体で進んでいる「チャットAIから個人エージェントへ」という流れを、Metaはより生活全体に広げようとしていると見る方が実態に近そうです。

Metaはなぜ「全員にAI」を配ろうとしている？

今回の発表でMetaが特に強調しているのが、「超高性能なAIを誰が持つのか」という問題です。

もし人間を大きく上回るAIを一部の企業や政府だけが利用できれば、その組織に非常に大きな力が集中する可能性があります。

そこでMetaは、AIを制限するのではなく、多くの人へ広く提供することで力の偏りを小さくするべきだと主張しています。

Metaは今後もオープンソースAIを支持し、Meta Superintelligence Labsの体制が整ったことを受けて、一部のオープンソースモデルの公開も再開するとしています。

ただし、この考え方にも課題があります。

Meta自身も世界最大級のIT企業であり、AIを動かすためには巨大なデータセンターや大量の計算設備が必要です。

「全員がAIを使えること」と「AIの力が本当に分散されること」は同じではありません。

また、Metaが前提としている「人間を超える超知能」そのものも、今回完成したわけではありません。

ザッカーバーグ氏は「今後数年」で人間の能力を超えるAIを利用できるようになるという見方を示していますが、これは将来予測です。

今回の発表で重要なのは新しい製品の発売ではなく、MetaがAI開発の中心を「企業の仕事を自動化するAI」ではなく、「一人ひとりの能力を増やす個人AI」に置くと明確に示したことです。

そして、その未来に最初に到達するのがMetaなのか、ChatGPTなのか、Claudeなのか、それとも別のAIなのかは、まだ分かりません。

情報源

• Meta「The Future is for Everyone」（2026年8月10日）
• OpenAI「Dreaming: Better memory for a more helpful ChatGPT」（2026年6月4日）
• OpenAI Help Center「Scheduled Tasks in ChatGPT」
• Anthropic「Introducing Claude Tag」（2026年6月23日）

The post Metaが「24時間働く個人AI」を構想　ChatGPTやClaudeとの違いは？ first appeared on 世界一わかりやすいニュースAI解説.