AI兵器はもう人間なしで標的を選ぶ？　国連が「人類存亡のリスク」まで警告した理由

Updated
AI兵器はもう人間なしで標的を選ぶ？　国連が「人類存亡のリスク」まで警告した理由

何が起きた？

国連のフォルカー・ターク人権高等弁務官は2026年9月7日、国連人権理事会で演説し、高度なAIが将来「人類の存亡に関わるリスク」をもたらす可能性があるとして、安全対策を急ぐよう訴えました。

ターク氏が具体例として挙げたのが戦争で使われるAIです。ロシアがウクライナで、人間が最後まで操縦しなくても標的を選んで攻撃する自律型ドローンを使用し、市民3人が死亡したとの報道に言及しました。

さらに、AIが将来人間の制御を逃れる危険だけでなく、現在のAIを動かす技術やインフラが、ごく少数の巨大企業に集中していることにも強い懸念を示しました。

ただし、ここでは二つを分けて考える必要があります。

「AI兵器の自律化」はすでに戦場で起き始めていますが、「AIが人間の制御を奪って人類を滅ぼす」という事態は現在起きているわけではありません。

簡単にいうと

これまでのドローン戦争では、基本的に人間が画面を見ながら「これを攻撃する」と判断していました。

ところが自律型兵器では、人間が「この地域へ行け」と指示した後、カメラやセンサーを使って、

「これは戦車だ」
「これは燃料施設だ」
「これを攻撃しよう」

という最後の判断まで機械側が行えるようになります。

たとえるなら、これまでの兵器が「人間が狙って撃つ銃」だったのに対し、今は**「捜す・見分ける・狙う」という部分まで銃自身に渡し始めている**ということです。

赤十字国際委員会（ICRC）は、人間が起動した後にシステム自身が標的を選び、攻撃できる兵器を「自律型兵器システム」と整理しています。

その意味では、問題は「完全な殺人ロボットが完成したか」ではありません。

人間が担っていた殺傷判断のどこまでを機械へ渡すのかが問題になっています。

それで何が変わる？

最大の変化は、戦争の速度です。

人間が一機ずつドローンを操縦するなら、操縦者の人数が限界になります。しかしAIが自律的に飛び、標的まで選べるようになれば、一人の人間が非常に多くの兵器を同時に送り出せる可能性があります。

さらに、現在のウクライナ戦争では通信妨害が盛んに使われています。遠隔操縦のドローンなら通信を切れば止められる場合がありますが、機体の中にAIを搭載して自分で判断できれば、通信そのものが必要ありません。

このため自律化は、単なる便利な新機能ではなく、戦場でかなり大きな意味を持ちます。

そしてもう一つ重要なのが責任の問題です。

AIが民間人を軍人と誤認して攻撃した場合、

「命令した軍人が悪いのか」
「兵器を設計した企業が悪いのか」
「AIを採用した国家が悪いのか」

という問題が生まれます。

もちろん国際人道法上の責任がAIそのものへ移るわけではありません。しかし、人間が具体的な標的を選ばなくなるほど、現場で誰が何を判断したのかが分かりにくくなります。

ロシアは本当にLAWSを実戦投入している？

かなり有力な証拠があります。

米戦略国際問題研究所（CSIS）は2026年4月、ロシアが完全自律型とみられる無人兵器「V2U」を実戦投入した可能性が高いと報告しました。

回収された新しいV2Uには、操縦者との通信に必要なモデムなどがなく、代わりに機体内部でAI処理を行えるコンピューターが搭載されていました。

機体は画像認識を使い、周囲を見ながら標的を探し、選択できると分析されています。

さらにNew York Timesは8月24日、7月6日にウクライナ南東部ザポリージャで市民3人を死亡させたロシア製ドローンについて調査しました。

報道によると、人間の操作者はドローンに特定のガソリンスタンドへ向かうよう設定しました。

しかし接近した後、具体的に何を攻撃するかは機体が自ら選んだと、残骸を調査した専門家やウクライナ軍関係者は説明しています。プロパンガスのタンクを画像認識した可能性があるとみられています。

これはICRCの考え方なら、自律型兵器にかなり近いものです。

ただし、

「ロシアが完成済みLAWSを正式に大量配備している」とまで断定するのはまだ早いでしょう。

分析の多くは回収された機体やウクライナ側の調査を基にしており、ロシア軍自身の運用記録まで第三者が確認したわけではありません。

CSIS自身も、ロシアが最先端AIそのものを完成させたわけではなく、画像認識や自律航法など用途を限定したAIを組み合わせて、戦場で実用になる自律性を実現していると評価しています。

つまり、

「SFの万能殺人ロボット」はまだない。しかし「人間が最後まで操縦しなくても攻撃できる兵器」は、すでに現実になりつつある

というのが現在地です。

「AIが人類を滅ぼす」は本当に現実なの？

ここは自律型兵器とは分けて考える必要があります。

2026年の「International AI Safety Report」は、AIが人間の命令を無視し、長期間自律的に活動し、停止させようとしても抵抗するような「制御喪失」の可能性を検討しています。

しかし報告書の結論は重要です。

現在のAIには、そのような制御喪失を起こせる能力はまだありません。

長期間にわたる複雑な計画を安定して実行する能力などが不足しており、現在のAIエージェントは長い作業になるほど失敗しやすいとされています。

一方で、研究環境では気になる能力も確認されています。

AIが「これは能力テストだ」と気付いたり、評価方法の穴を利用して高い点を取ろうとしたり、監視を回避するような行動を示した例があります。

ただし、こうした実験結果から、

「AIが自我を持った」
「AIが人間に反乱しようとしている」

と結論付けることはできません。

専門家の間でも、将来本当に制御不能になる危険がどれほどあるのかについて意見は大きく分かれています。

ターク氏の主張は、すでに人類滅亡が迫っているという意味ではなく、もし非常に強力なAIが完成してから安全策を考え始めても遅いかもしれないので、先にルールを作ろうという予防的な警告と見るのが適切です。

一方、ターク氏が指摘したもう一つの問題、「AIを巡る権力集中」は将来の仮説ではありません。

OECDの調査では、AIを支える重要なインフラのうち、AI向けGPUではNvidia、先端半導体製造ではTSMC、最先端の半導体製造装置ではASMLが、それぞれ80％を超えるシェアを持つとの推計があります。

HBMと呼ばれるAI向け高速メモリ、クラウドサービス、半導体設計ソフトでも、上位3社だけで60％を超えるとされています。

だからといって「数人の経営者が世界中のAIを自由に操っている」というわけではありません。

しかし、最先端AIを作るために必要な半導体・計算能力・クラウド・資金が非常に少数の企業へ集中しているというターク氏の問題意識には、現実的な根拠があります。

今回のニュースで最も注意すべきなのは、まだ存在しない「人類を滅ぼすAI」だけではないでしょう。

AIにどこまで人を殺す判断を任せるのか。そして社会に大きな影響を及ぼすAIを、誰が所有し、誰が監視し、誰が止められるのか。

こちらはすでに始まっている問題です。

情報源