AI误判险些引发美军对华行动

币界网报道：

据 CNN 报道，美国官员今年春季曾依据一份情报准备对一艘中国船只采取武装行动，但在执行前最后阶段发现，关键结论来自 AI 聊天机器人的错误生成内容，任务随后被紧急取消。

错误情报进入指挥链

事件发生在美国与伊朗交战期间。流转中的情报报告称，这艘船正运送核武器项目相关部件。随后，美方确认这一判断失实，问题出在一名特种作战司令部分析师使用 AI 工具处理情报时出现误判。

报道显示，这名分析师先让 AI 聊天机器人整合公开信息与机密信号情报，系统错误识别了船只货物清单。之后，他又用同一工具把错误内容整理成接近正式文件的摘要，并沿指挥渠道分发。

速度优势伴随新风险

这意味着，错误并未停留在初步检索阶段，而是被包装成更具可信度的内部材料，进一步进入决策流程。直到行动临近执行时，相关问题才被发现。

这起险情也反映出，美军在加快引入 AI 以提升决策速度时，正暴露新的操作风险。五角大楼此前多次表示，AI 有助于缩短打击链条，提高响应速度，并在与中国的竞争中保持优势。

专家建议增加人工校验

但同样的速度，也可能让系统生成的错误更快传递到更高层级。如果人工复核不足，误判就可能直接影响情报分析、行动规划，甚至武力使用决定。

GovAI 研究学者、美国陆军退役军官 Jake Steckler 对 TechCrunch 表示，军方人员需要理解大语言模型本身存在不确定性，尤其是在目标识别、情报分析和作战规划等可能导致使用武力的场景中，错误代价极高。

他同时认为，这起事件说明军方需要增加防护措施和审核环节，而不是放缓 AI 应用本身。若把部署速度置于首位，类似事故可能削弱一线人员对系统的信任，反而拖慢后续采用。