米軍の学校攻撃、古い標的情報とAIへの過信が重なる　「AIなら間違いを見抜く」が落とし穴に

Updated 2026/09/21

何が起きた？

2026年2月28日、米国とイスラエルによるイランへの軍事作戦が始まった初日、イラン南部ミナブにあるシャジャレ・タイイベ小学校が攻撃された。

学校とその敷地には米軍のトマホーク巡航ミサイル2発が命中したとされ、150人以上が死亡した。Bloombergは、少なくとも123人が子どもだったと報じている。

そして9月18日、米国防総省の未公表の内部調査に関わった当局者らへの取材から、標的選定で複数の問題が重なっていたことが明らかになった。

問題として挙げられているのが、古い軍事情報、更新されていない画像、情報システム同士の断絶、民間人被害を防ぐ担当者の削減、そしてPalantirの「Maven Smart System」への過度な依存である。

ただし、ここで注意したい。

現在明らかになっている内容は、単純に「AIが学校を軍事基地と誤認した」という話ではない。

むしろ問題になっているのは、人間が古い情報をAIに与えながら、「AIなら情報の古さや矛盾に気づいてくれるだろう」と期待していた可能性である。

簡単にいうと

たとえば、10年前に「倉庫」と登録された建物が、現在は保育園になっていたとする。

ところが会社のデータベースには今も「倉庫」と残っている。

その古いデータを最新のAIシステムに読み込ませ、人間が、

「こんなに高度なAIなんだから、もし保育園になっていれば教えてくれるだろう」

と思って確認を省いたらどうなるだろうか。

AIがデータベースを正しく処理した結果、間違った結論へ高速で到達することがある。

今回浮かび上がっているのは、まさにこの問題である。

AIがウソを作ったというより、入力された情報そのものが間違っていたのに、人間がAIを「間違いまで見つけてくれる装置」として扱ってしまった可能性がある。

AIは何を間違えたのか？

学校のある土地は、もともとイラン革命防衛隊海軍の施設の一部だった。

しかし学校部分は軍施設から分離され、衛星画像からも学校として使われていることを示す特徴が確認できる状態になっていた。

さらに2019年には、米情報分析官の一人が現地の状況が変化していることに気づき、その情報を別のデジタルシステムへ記録していたという。

ところが、その情報が正式な標的データベースへ十分反映されなかった。

結果として、攻撃計画では古い「軍事施設」という情報が使われた。

ここで登場するのがPalantirの「Maven Smart System」である。

Mavenは大量の軍事情報やセンサーデータなどをまとめ、軍が状況把握や標的選定、攻撃承認などを行うための意思決定支援システムである。

米国防総省自身も、Mavenがセンサーデータにアルゴリズムを適用し、軍事目標の識別や攻撃を支援するシステムだと説明している。

内部調査関係者によると、一部の米中央軍関係者は、Mavenなら古い情報やデータ同士の矛盾があれば警告してくれると期待していた。

しかし、なぜそのような機能があると考えていたのかは明らかになっていない。

Palantir側は、同社はMavenへ入力される基礎データの品質や、情報上の欠陥を発見する責任を負っておらず、Mavenそのものに不具合があった証拠もないとしている。

つまり現在分かっている範囲では、

AIが正しい情報を見て学校を軍事基地と誤認した

のではなく、

古い「軍事施設」という情報をAIが処理し、人間もそれを止められなかった

と考えた方が実態に近い。

なぜ人間が確認していたのに止められなかった？

Mavenの導入目的の一つは、軍事作戦の意思決定を速くすることである。

Bloombergによると、過去の戦争では数時間かかっていた標的候補リストの作成作業の一部が、イラン攻撃ではMavenによって数分程度まで短縮されていた。

速さ自体は軍事上大きな利点になる。

しかし、ここには別の問題がある。

AIが人間の作業を速くすると、「本当に正しいのか」と立ち止まる時間まで短くなる可能性がある。

今回の攻撃もAIだけで自動決定されたわけではない。

標的の確認や攻撃承認には人間が関与しており、Bloombergによるとミナブの攻撃に至る一連の「キルチェーン」には約36人が関わっていた。

それでも間違いは止まらなかった。

さらに国防総省では、民間人への被害を減らすための専門チームが大幅に削減されていたとされる。

Bloombergによれば、関連部門の人員は全体で約90％削減され、米中央軍では10人から1人になっていた。

そしてミナブの標的については、この専門チームによる攻撃前の審査が行われなかったという。

つまり、

「最後は人間が判断しているから安全」

とも単純には言えない。

人間がAIを信頼し、時間に追われ、確認に必要な専門家も不足していれば、形式上は人間が承認していても安全装置として十分に機能しない場合がある。

「AIへの過信」が問題になる理由

この問題は「自動化バイアス」と呼ばれる現象にもつながる。

コンピューターや自動システムが示した結果を見ると、人間は自分で一から判断するときよりも、その結果を正しいものとして受け入れやすくなる。

しかも今回のMavenのような高度なシステムでは、多数の情報を一度に統合して結果を表示する。

人間から見ると、

「これだけ大量のデータを分析した結果なのだから、自分より正確だろう」

と感じやすい。

しかしAIは、与えられた情報の意味を何でも理解し、現実世界との食い違いを自動的に発見してくれる万能装置ではない。

元データが古ければ、高性能なAIほど古い情報を高速に処理できてしまう。

今回の攻撃後、PalantirはMavenに、標的の基礎情報を再点検し、標的から除外すべき材料や情報の矛盾・不正確さを警告する新しい機能を追加したと報じられている。

これは、AIを高速化だけに使うのではなく、「本当に攻撃してよいのかを疑う機能」も必要だという問題を浮き彫りにしている。

国連はこの攻撃をどう見ている？

この問題はAIシステムの運用だけでは終わらない。

9月17日、国連人権理事会が設置したイランに関する独立国際事実調査団は、ミナブの学校などへの攻撃について調査結果を発表した。

調査団は、学校が民間施設として明確に識別でき、軍事目的に使用されていたことを示す証拠を確認できなかったとしている。

さらに、ミサイルが偶然学校へそれたのではなく、学校そのものが予定された着弾地点だったと判断した。

つまり、精密誘導兵器が狙いを外したというより、そもそも「攻撃すべき軍事目標」という情報が間違っていた可能性が問題になっている。

調査団は、米国が標的が軍事目標であることを十分確認しなかったなどとして、国際人道法に違反する無差別攻撃に当たり、戦争犯罪が行われたと信じる合理的根拠があるとの見解を示した。

一方、米政府はこの国連調査の結論を拒否している。

また、この調査団は裁判所ではないため、その判断そのものが刑事上の有罪判決を意味するわけではない。

米国防総省による内部調査も、現時点では正式に一般公開されていない。

本当に怖いのは「AIが間違えること」だけではない

生成AIについては、「AIがもっともらしいウソを作る」という問題がよく知られている。

しかし今回のケースが示しているのは、それとは別の危険である。

AI自身が新しい誤情報を作らなくても、

人間が間違ったデータを与える
↓
AIが高速に処理する
↓
人間がAIの結果だからと信頼する
↓
確認作業まで高速化・省略される

という流れが成立してしまう可能性がある。

これは軍事以外でも無関係ではない。

医療、採用、融資、犯罪捜査など、AIが人間の判断を「支援する」場面は急速に増えている。

そこで重要なのは、単に「最終決定は人間がする」というルールを置くだけではない。

人間がAIを疑えるだけの情報、時間、専門知識、そして「AIが何を確認していないのか」を理解できる仕組みまで残す必要がある。

ミナブの学校攻撃をめぐる調査は、AIを軍事利用することの是非だけでなく、AIを意思決定に組み込む社会全体にとって、その問題を突きつけている。

米軍の学校攻撃、古い標的情報とAIへの過信が重なる 「AIなら間違いを見抜く」が落とし穴に