荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

过度依赖AI大模型导致美国空袭造成123名伊朗儿童死亡

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

五角大楼一份被曝光的内部审查文件揭示,2026年2月发生在伊朗南部米纳布市小学的悲剧性空袭,与美军过度依赖一款人工智能目标系统密切相关。该事件造成超过150人死亡,其中至少123人是儿童。这份由彭博社获得的文件指出,由Palantir公司开发的Maven Smart System在误判过程中扮演了关键角色。

调查总结出导致悲剧的三重失守。首先是对AI系统的过度依赖,使用者期待系统自动标记问题,却未能理解其决策逻辑。其次,目标设施的情报数据严重过时,该地点长期被错误编目为伊朗伊斯兰革命卫队设施。最后,负责核验目标的人力被大幅削减,多重疏漏叠加,最终酿成不可挽回的后果。

Maven系统号称能将目标清单核对工作从数小时压缩到几分钟,但效率提升的代价是审核环节被系统性压缩。商业卫星图像早在2017年和2018年就已显示该地点具有学校特征,但这些信息未能进入决策流程。Palantir公司回应称,其不负责基础数据和情报缺陷识别,并在事后为系统增加了新功能,但为时已晚。

更严重的是,一条关键的情报备注从未抵达决策者手中。早在2019年,就有分析师记录了该设施的变化,但这份记录被存放于孤立的信息系统中,从未传递给空袭策划人员。与此同时,负责避免平民伤亡的专职团队编制缩减了约90%,从10人减至1人,导致导弹发射前无人进行最终审查。

联合国独立国际调查团认定,美方有合理理由被犯下“无差别攻击”的战争罪,因其“未能尽一切可行措施核实学校是否为军事目标”。美国国防部发言人虽重申“美国不针对平民”,但拒绝就联合国报告置评。国会方面也已致信追问AI工具的具体作用,但五角大楼以调查进行中为由未予答复。

该事件凸显了军队与执法机构对AI工具依赖加深,却缺乏匹配的核验与问责机制这一广泛趋势。专家指出,真正的风险可能并非算法本身,而是人类未经充分验证便全盘接受机器结论的习惯,这为未来军事行动的决策流程敲响了警钟。

阅读原文 →来源:cnbeta