AI误判中国船载核武计划零件！美军一度要拦截 知情人士：差点开战

CNN 18日独家报导，美国与伊朗交战期间，一份情报报告在美军内部流传，警告一艘位于中东的中国船只正在运送核武计划零组件。但就在原定拦截行动即将展开前，官员进一步查核才发现，这份报告是在人工智慧（AI）协助下生成，且分析人员使用的聊天机器人错误辨识船上所载物资。一名知情人士直言，此事「差点引发一场战争」。

这份报告由一名特种作战司令部分析人员制作，CNN则无法得知聊天机器人错误辨识的货物究竟是什么。4名知情人士透露，美军当时已迅速采取行动，准备拦截该船；2名知情人士指出，武装人员正准备登船，其中1人及另一名熟悉此事的消息人士更表示，军机当时已升空。

若美方根据这份报告对中国船只采取行动，事态可能升高为美中武装冲突。1名消息人士形容，这份报告「完全是假的」，却「差点引发一场战争」。

美军与情报界正推动将AI融入几乎所有工作层面，从分析大量原始情报、挑选攻击目标，到管理预算、后勤与供应链。然而，此次事件凸显，在战争期间使用这种强大、新颖且仍未被充分理解的技术协助选定攻击目标，可能带来重大风险。分析人员长期担心，如果各国依赖品质不佳或遭污染的资料，AI可能导致灾难性误判；本案就可能因错误资讯，导致美方向中国船只开火。

本案中，涉事分析人员针对美国太平洋特种作战司令部（SOCPAC）一份涉及该船货物清单的情报，向聊天机器人查询。目前不清楚这个聊天机器人是市面上的商用产品，还是美国政府的产品。聊天机器人将公开来源情报与政府掌握的机密讯号情报融合，最后对船上物资得出错误结论。分析人员接著再次使用AI，把相关发现整理成军方官员通常会信任的标准情报报告并发出。

SOCPAC与五角大厦均未回应询问。一名知情的美国前资深官员表示：「这些内部工具大多只是商用产品的翻版，只不过换了个包装。」

过去数周，矽谷工程师与科技公司执行长接连警告，AI可能摆脱人类限制，甚至带来终结文明的后果，引发华府激烈辩论。但这起中国船只事件凸显另一种更迫切的风险：人类可能根据AI或其他自动化系统生成的不正确或误导性资讯，做出灾难性决策。

消息人士表示，军方正迅速转向使用AI协助选定攻击目标，但显然存在造成致命错误的风险。另一名知情人士表示：「AI用于目标选定肯定正在快速增加，但即使保留人工决策环节，究竟要如何防止平民伤亡或误伤友军，目前也没有真正的指引。」

消息人士指出，自从AI工具开始在政府内部广泛使用后，情报界出现像本案这类「幻觉」并非孤例。对一些年纪较大的情报官员而言，即使整体上支持军方使用AI，也认为这项技术正让分析人员承受更快制作并发出情报的压力，增加出错空间。年轻分析人员尤其熟悉这类工具，也更可能不加批判地信任它们。1名消息人士形容：「AI让你更快得到一个糟糕想法。」