美军因AI幻觉报告差点误击中国船只

US Military had close call after using AI for hallucinated intelligence report

在美军与伊朗冲突期间，一份由AI生成的虚假情报报告险些引发灾难性后果。报告显示一艘中国船只在中东运输核武器部件，促使美军紧急部署拦截行动，甚至武装人员已准备登船。直到行动前夕，官员们才发现该报告由AI分析生成，且Chatbot错误识别了船上货物。这一事件凸显了AI在军事决策中的巨大风险：若依赖不准确或误导性信息，可能导致国家间武装冲突。尽管美军正加速推进AI在情报分析、目标选择等关键领域的应用，但缺乏统一验证标准让‘人类在环’的机制形同虚设。年轻分析师对AI工具的盲目信任，更让错误决策的风险雪上加霜。