AI 幻覺險些引發美軍對中國船隻軍事行動

美軍特種作戰司令部一名分析師使用 AI 聊天機器人協助生成情報報告，錯誤指控一艘中國船隻在中東運載核武計畫零組件。根據 CNN 引述的四位知情人士，這份「完全虛假」的情報導致美軍準備派遣空中支援對該船進行攔截登船行動。

直到官方發現該聊天機器人「不準確地識別了船隻運載的物資」後，這場軍事行動才被制止。其中一名知情人士告訴 CNN，這起由 AI 驅動的錯誤決策「幾乎引發了一場戰爭」。

根據 CNN 的報導，該分析師依賴聊天機器人的輸出內容作為情報基礎，但聊天機器人對貨物材料的識別存在根本性錯誤，導致整份報告的結論完全偏離事實。美軍為此準備的軍事行動包括派遣空中支援力量，計畫對該中國船隻進行攔截和登船檢查，直到發現識別錯誤才避免了這場潛在的軍事衝突。

這起事件凸顯了 AI 聊天機器人在關鍵軍事決策流程中存在的可靠性問題。該分析師提交的情報報告由聊天機器人生成，但其對船隻貨物的識別完全錯誤，最終導致美軍差點對一艘中國船隻採取軍事行動。事件發生在中東地區，涉及的 AI 工具在情報生成過程中發揮了決定性但致命的作用。