CNN引述四名消息人士報道，美軍今年春季美伊戰事期間，因誤信AI生成的情報報告，險些在中東海域對一艘中國船隻採取強行攔截行動，事件最終在官員深入核查後取消，但已暴露美軍在情報分析與軍事決策中盲目依賴AI技術的嚴重風險。
報道指，美軍當時接獲一份由特種作戰司令部分析員整理的情報報告，稱一艘在中東海域航行的中國船隻正運送與核武器計劃相關的敏感組件。美軍隨即啟動應急機制，計劃攔截該船，包括派美軍人員登船，並出動戰機升空戒備。就在行動即將展開的緊要關頭，美國官員深入核查報告來源，發現情報完全基於AI生成。消息人士形容，這份報告「完全錯誤」，「差點引發一場戰爭」。若美軍當時對中國船隻採取任何強制軍事行動，極可能導致事態升級，甚至引發中美兩國間的直接武裝衝突。不過，美國國防部未有對報道置評。
報道還進一步披露，位於夏威夷的美國太平洋司令部獲取有關中國船隻載貨清單的情報後，分析員就此詢問聊天機械人。該聊天機械人整合了開源情報與美國政府內部的機密信號情報後，判斷船上運載的是核武計劃相關組件。分析員隨後再次使用AI，將此「發現」整理成標準情報報告發布出去。整個過程凸顯AI工具在情報鏈條中的關鍵角色，同時也顯示一旦AI輸出錯誤，錯誤信息可迅速被包裝成看似可靠的情報。
美軍和情報部門正致力在工作各層面使用AI，包括收集情報、選擇攻擊目標、管理預算、物流和供應鏈等。美軍之所以積極推動使用AI，是因為相信AI能協助加快戰場決策，例如選定打擊目標或決定軍事資產調動。然而，一名消息人士指出，在目標鎖定方面，AI的應用無疑正日益增加，但對於如何通過讓人類介入來避免平民傷亡或誤傷友軍，目前尚無明確的指導方針。
分析員使用的AI工具產生「幻覺」，在情報界並非首例。AI給分析員帶來壓力，迫使他們須更快生成和傳播情報，這同時也增加了出錯的風險。消息人士稱，年輕分析人員尤其熟悉這類工具，也更可能不加批判地信任它們，1名消息人士形容：「AI讓你更快得到一個糟糕想法。」多名知情的美國官員也指出，政府各部門使用不同的AI工具，遵循不同指令與安全標準，目前沒有一套標準來核實這些工具生成的資訊。由於軍方和情報界部署了多種不同的AI系統，這意味著可靠性和功能表現也存在巨大差異。
