特朗普政府近日決定禁止外國政府、企業及個人使用人工智能公司Anthropic最先進的AI模型，消息人士透露，此舉源於亞馬遜行政總裁賈西（Andy Jassy）與財長貝森特（Scott Bessent）等政府高層的一系列會談。亞馬遜研究人員聲稱，透過特定指令成功讓Anthropic最新模型「Fable 5」提供原本受限制的資訊，可能被用於網絡攻擊，引發白宮高度關注。
CNBC及《華爾街日報》報道，據了解，亞馬遜研究團隊利用一連串提示語，成功取得與軟件漏洞相關的資料。雖然相關資訊未達到完整破解模型安全限制的程度，但足以引發政府對模型安全性的擔憂。白宮官員隨後召開會議討論應對方案，並要求Anthropic修補漏洞或暫停相關模型運作。
最終，政府認為最直接的風險管控方式，是禁止海外用戶接觸Anthropic旗下最強大的Mythos與Fable模型。儘管部分官員擔心此舉可能影響美國AI產業創新發展，但特朗普最終批准相關措施。
安全爭議持續升溫
知情人士指出，政府長期對Anthropic管理尖端AI風險的能力抱持懷疑態度。上週五，Anthropic行政總裁阿莫代伊（Dario Amodei）與政府官員通話後，部分官員認為公司不願與聯邦安全專家合作解決問題，進一步加深不信任感。
面對政府禁令，Anthropic宣布暫停所有用戶使用Mythos與Fable，以確保符合規定。公司表示，由於許多研究人員出生於美國境外，新規定實際上也限制了部分核心研究人員參與最新模型開發工作。
Anthropic強調，亞馬遜所指出的漏洞屬於相對基礎層級，其他公開AI模型同樣能夠發現類似問題，並不代表模型已被完全破解。公司表示，過去一直以AI安全為優先考量，推出新模型前均與政府測試單位合作，並建立多層防護措施。
科技與政治角力加劇
Anthropic由阿莫代伊等前OpenAI成員於2021年創立，主打強調AI安全發展，其Claude Code工具廣受企業客戶採用。該公司近年來與特朗普政府關係緊張，部分原因在於創辦團隊曾公開警告AI潛在風險，且公司聘用了多名前拜登政府官員。
新聞及封面圖片來源：美聯社