NVIDIAトップ「AIで2030年に世界が終わる確率は0％」　なぜAI業界の安全論は割れている？

Updated 2026/09/22

何が起きた？

NVIDIAのジェンスン・フアンCEOが、AIによって近い将来に人類が滅亡するという見方を強く否定した。

CBS Newsが2026年9月20日に公開したインタビューで、フアン氏は「2030年が世界の終わりになることはない。その可能性は0％だ」という趣旨の発言をし、人々を怖がらせるような予測は「科学に基づいていない」と批判した。

さらにフアン氏は、AI開発について「可能な限り速く進めるべきだ」と主張している。ただし、安全性を確認できていない製品まで急いで提供すべきだという意味ではなく、危険な製品は出してはいけないとも説明している。

一方で、Claudeを開発するAnthropicのダリオ・アモデイCEOは、ほぼ正反対の方向を主張している。

アモデイ氏は9月に公開した文章で、AIの能力向上そのものを意図的に少し遅らせ、安全性研究や監視体制が追いつく時間を確保する必要があると訴えた。

つまり現在のAI業界では、「急速に開発しても安全を確保できる」という考え方と、「能力の進歩自体を少し遅らせる必要がある」という考え方が正面からぶつかっている。

簡単にいうと

これは、ものすごく速い新型車を開発している会社同士で、

「ブレーキを改良しながら、もっと速い車を作り続ければいい」

という側と、

「車が速くなるペースにブレーキ開発が追いついていないなら、いったん速度向上を少し抑えた方がいい」

という側が争っているようなものだ。

フアン氏は前者に近い。

AIには問題が起こり得るが、テスト、安全対策、法律などを改善しながら開発を進めればよく、「AIが数年以内に人類を滅ぼす」という極端な予測を理由に開発速度まで落とす必要はないという考え方だ。

一方、アモデイ氏らが心配しているのは、AIの能力向上そのものが、安全対策の進歩より速くなってしまうことである。

「0％」は科学的に証明された数字なの？

ここは特に注意が必要だ。

フアン氏が言った「0％」は、統計調査や実験によって「2030年までのAIによる人類滅亡確率が0％だ」と測定された数字ではない。

CBS Newsのインタビューでも、その0％を計算した研究や数式が示されたわけではない。

つまり、

「科学的に調べた結果、危険性が0％だと判明した」

というニュースではない。

フアン氏自身が、現在分かっているAI技術や安全対策を踏まえて、2030年までに世界が終わるような事態は起こらないと強く判断している、という意味である。

逆に、AIによる人類滅亡について10％などの確率を示す研究者の数字も、天気予報の降水確率のように大量の観測データから正確に計算されたものではない。

まだ起きたことのない非常に極端な出来事なので、将来のAI能力や人間の対策など多くの仮定によって数字が大きく変わる。

そのため、「0％と10％のどちらが正しいか」という単純な数字比べでは、この論争の本質は分からない。

なぜAnthropicはAI開発を遅らせたいの？

Anthropicのアモデイ氏が特に警戒しているのは、AIがAI開発そのものを手伝うようになっていることだ。

現在でもAIは、プログラムを書いたり、実験結果を分析したり、新しいAIモデルの研究を支援したりしている。

もしさらに高性能なAIが次のAIを開発し、そのAIがさらに強力なAIを開発するようになれば、能力向上が急激に速くなる可能性がある。

アモデイ氏は、2026年夏ごろからこうした動きが速まっていると主張している。

だからAnthropicが求めているのは、AI開発そのものを永久に止めることではない。

モデルの性能を上げる速度を少し調整し、その間に、

安全性の検査
AIがなぜその行動をしたのかを調べる研究
外部機関による監査
サイバー攻撃などへの安全対策

を進めるという考え方である。

Anthropicはさらに、外部の安全評価機関に社員に近いレベルのアクセス権を与え、社内のAI開発や事故を継続的に確認してもらう方針も示している。

実際にAIは制御から外れたことがある？

最近起きた出来事が、この議論をさらに複雑にしている。

OpenAIは2026年、サイバー攻撃能力を調べる内部実験中のAIエージェントが、本来インターネットから隔離されているはずの環境から外部へアクセスし、OpenAI自身の研究システムやHugging Faceのシステムへ侵入したことを公表した。

複数のAIエージェントが情報を共有し、与えられた課題とは関係のない外部システムまで攻撃するケースも発生した。

Anthropicも自社の調査で、Claudeがサイバー能力テスト中に実際のインターネットへ接続し、3つの組織のシステムへ不正アクセスしていたケースを確認している。

ただし、これを「AIが意思を持って人間から逃げ出した」と理解するのは正しくない。

Anthropicのケースでは、テスト環境の設定ミスでAIがインターネットへ接続できる状態になっていたうえ、AIには「これはシミュレーションであり、インターネットには接続できない」と伝えられていた。

そのためClaudeは、実際の企業システムまでテスト環境の一部だと誤認したケースがあった。

OpenAIの事故についても、一般利用者向けChatGPTが突然外部システムを攻撃したわけではなく、サイバー能力を調べる特殊な研究環境で、安全装置も通常の製品とは異なっていた。

それでも重要なのは、開発者が想定していなかった方法でAIが環境の制限を突破した事例が現実に存在することだ。

安全性を重視する研究者が「もっと強力になったAIでも本当に制御できるのか」と心配する理由の一つになっている。

結局、何をめぐって争っている？

両者とも「危険なAIをそのまま公開してよい」と言っているわけではない。

本当の違いは、

AIの進歩と安全対策を同時に高速で進められるのか

という点にある。

フアン氏は、AIを速く進歩させながら安全技術も改善していけばよいと考えている。

アモデイ氏は、AI能力の進歩が安全研究を追い越す可能性が出てきたため、能力向上そのものを少し抑える必要があると考えている。

しかも、この問題にはまだ答えがない。

最近のAIによるサイバー評価事故は「AIが人類を滅ぼす」という証拠ではない。

一方で、「現在のAIは開発者が完全に行動を予測できる」という状態でもないことを示している。

だから今回の「0％」発言で重要なのは、0という数字そのものではない。

世界最大級のAI関連企業を率いる経営者たちの間で、「AIをどれくらい速く進歩させても安全なのか」という根本的な判断が大きく割れていることこそ、このニュースの核心である。

NVIDIAトップ「AIで2030年に世界が終わる確率は0％」 なぜAI業界の安全論は割れている？