Palantir AIへの過信が、イランで123人の子どもを殺害した米軍の攻撃を招いたと国防総省調査官が指摘
Pentagon: Palantir AI Overreliance Led to Strike Killing 123 Iranian Children
2026年2月、イラン南部ミナブの小学校にトマホークが着弾し、少なくとも123人の子どもを含む150人以上が死亡した。Bloombergが報じた国防総省の未公開内部調査によると、Centcomの一部要員がPalantir製のMaven Smart Systemに過度に依存し、古いデータに基づく学校を標的リストに載せてしまった。さらに時代遅れの衛星画像と不十分な人的情報、民間被害軽減チームの90%削減が重なり、確認作業が省略された。国連はこれを戦争犯罪と認定している。
「米国は民間人を標的にしない」と政権高官はBloombergに語り、国防総省は国連報告へのコメントを拒否した。
HNでの議論
495- legitster
> 調査は、学校が軍事目標であることを検証するために実行可能なあらゆることを行う義務を米国が「怠った」と認定し、その怠慢は「単なる過失を超えていた」と述べた。報告書は、米国が「民間施設を攻撃する重大なリスクを認識しながら学校の建物を標的に攻撃を指示し、それが現実となる可能性に関して無謀に行動した」と述べた。
詳細を読む限り、「AI」が真の犯人とは思えない。むしろスケープゴートだ。
もはや軍事目標ではないという情報は標的データベースに入力されず、標的リストの審査を担当するチームは解体され、そのチームは相談すらされなかった。
ホワイトハウスは1000の標的を求め、デューデリジェンスもなしにデータベースから引き出した。それがAIによる呼び出しかSQLクエリかに関わらず、これは純粋に人間の悪意と無能によるものだ。
- drakonka
この件では、AIはむしろスケープゴートのように思える。中国船が核兵器部品を輸送しているというAI支援のインテリジェンス報告により、米国がほぼ乗船しかけた事件[0]の方が、AIの直接的な使用影響という点で私には説得力があった。とはいえ、主な問題は、そもそも人々がこの種の作業をAIに careless に丸投げしていること（あるいはそうするよう圧力を受けている？）のように思える。
[0] https://edition.cnn.com/2026/09/18/politics/us-military-ai-f...
- k310
意見：AIは最初から濡れ衣を着せられる存在として設定されていた。
殺人は続き、ある種の思考様式はすべてに対してスケープゴートを要求する。
イラン自体が非難された。
これは最終的に人間の手による犯罪行為であり、ICCに課せられた極端な制裁を説明するものである。
- Aeolun
> 米軍史上最悪の標的誤認
別名、大量殺人
まじめな話、それは起きたことを浄化する一つの方法だな。
- impossiblefork
個人的には、2回目と3回目の攻撃の正当性のほうが気になる。
救急隊員や負傷者を助ける人々に対する何らかの保護が必要だ。
- colingauvin
根本原因分析を行うことは重要だと思うが、意思決定権限の大きな部分をAIに移すことを決めた人々から責任を免除しないよう、非常に注意する必要がある。AIは法廷で裁けない。その行動の一つ一つに対して責任を負う人間がいなければならない。特にそれが子どもたちを殺しているときはなおさらだ。
こんなことが現実になるなんて信じられない。
- imranq
> 当局者は、一部のユーザーがMavenは潜在的な標的のために収集されたインテリジェンスの古い記録や矛盾を指摘してくれると期待していたと述べたが、なぜシステムがそうすると思ったのかは明らかではない
これは、AIとその限界を理解していない人々が、それが究極のアナリストのように振る舞うと信じて全面的に受け入れたときに起こることだ。しかしそうではない。誰も知らない以上の盲点があちこちにある。ましてやシステム自体に複数の障害領域がある。
- banubis
国防総省はPalantirのソフトウェアのせいだと言い、Palantirはソフトウェアへの悪いデータ入力のせいだと言う。両組織の説明責任はどこにある？ 無実の死につながる軍事決定が、まるでB2B SaaSプラットフォームの導入における単なるコミュニケーション・ミスのように対応される世界に、どうしてなってしまったのか。
- vikas123456789
世界全体が住みにくい場所になりつつあり、それをやっている人々は責任を取っていない。
- sedan_baklazhan
それはまったく無関係だ。米国は決して責任を取らない。誰も訴追されない。賠償金も支払われない。