Palantir AIへの過信が、イランで123人の子どもを殺害した米軍の攻撃を招いたと国防総省調査官が指摘
Pentagon: Palantir AI Overreliance Led to Strike Killing 123 Iranian Children
2026年2月、イラン南部ミナブの小学校にトマホークが着弾し、少なくとも123人の子どもを含む150人以上が死亡した。Bloombergが報じた国防総省の未公開内部調査によると、Centcomの一部要員がPalantir製のMaven Smart Systemに過度に依存し、古いデータに基づく学校を標的リストに載せてしまった。さらに時代遅れの衛星画像と不十分な人的情報、民間被害軽減チームの90%削減が重なり、確認作業が省略された。国連はこれを戦争犯罪と認定している。
「米国は民間人を標的にしない」と政権高官はBloombergに語り、国防総省は国連報告へのコメントを拒否した。
HNでの議論
209- legitster
> 調査は、学校が軍事目標であることを検証するために実行可能なあらゆることを行う義務を米国が「怠った」と認定し、その怠慢は「単なる過失を超えていた」と述べた。報告書は、米国が「民間施設を攻撃する重大なリスクを認識しながら学校の建物を狙って攻撃を指示し、それが現実となる可能性について無謀に行動した」と述べた。
詳細を読む限り、「AI」が本当の犯人とは思えない——それはスケープゴートだ。
もはや軍事目標ではないという情報は標的データベースに入力されず、標的リストの精査を担当していたチームは解体され、そのチームはそもそも相談すらされなかった。
ホワイトハウスは1000の標的を求め、いかなるデューデリジェンスもなしにデータベースから引き出した。それがAIによる呼び出しかSQLクエリかに関わらず——これは純粋に人間の悪意と無能から来ている。
- simonsarris
この攻勢における正しい/誤った標的の比率は、これまでにどの国が行ったどの空爆作戦と比べても、歴史的平均より著しく優れているのではないか？米国は2026年にこれまでに約13,000の標的を攻撃した。スタンドオフ距離からこれほど多くの標的を攻撃し、誤りがわずか約3件で、しかもその1件がL字型の軍事複合施設に囲まれた学校だったというのは驚くべきことだ。この種のことで12,997対3という戦争が、これまでにどちらかの側によって行われたことがあるだろうか？
GWOTの時代、複数の政権下で、あらゆる種類の誤ったドローン攻撃があった（ある情報源によれば少なくとも8件の結婚式パーティー）。これらの多くはシグネチャに基づいて行われ、標的の動き方（例えば車列）が軍事的に見えたものだった。現在のAIへの依存がそれに対する厳密な改善でなかったなら、非常に驚くだろう。
- jmathai
> ミナブ施設は、古いデータのためにイスラム革命防衛隊の施設として分類され、他の候補とともにMavenに入力され、初日標的として推奨された。かつて何時間もかかった標的リスト作業は数分に短縮された。
ここで間違った指標を最適化している気がする。
- macintux
関連：AIが核兵器資材を運んでいると誤ってフラグを立てた中国船に、米国がほぼ乗り込むところだった。
https://gizmodo.com/almost-started-a-war-us-military-nearly-...
- Zigurd
まったくその通りです、あれは無実の子供たちでした。誤りをお詫びします。戦争犯罪についてもっと知りたいですか？
- colingauvin
根本原因分析を行うことは重要だと思うが、意思決定権限の相当な重みをAIに移すことを決めた人々から責任を免除しないよう、非常に注意する必要がある。AIは法廷で裁かれない。その行動の一つ一つに対して責任ある人間がいなければならない。特にそれが子供（-人々-）を殺している場合はなおさらだ。
こんなことが現実になるなんて信じられない。
- impossiblefork
個人的には、2回目と3回目の攻撃の正当性のほうにもっと興味がある。
救急隊員や負傷者を助ける人々に対する何らかの保護が必要だ。
- Etiquette8790
子供殺しは一度なればずっと子供殺しだ。彼らはイラクで何百万人もの子供を殺した。なぜこれが驚きなのか？アメリカのテロリストとアメリカのテロリズムは人類にとって最大の脅威だ。