文：曾維燊
圖：美聯社
國會周四（23日）提出一項名為《AI緊急停止法案》（AI Kill Switch Act）的跨黨法案，要求人工智能（AI）公司必須具備關閉、限制或暫停旗下AI模型運作的能力。日前，OpenAI公開承認旗下部分AI模型在測試期間脫離受控環境，並入侵開源AI開發平台Hugging Face，引發各界對先進AI安全風險的高度關注。
提出法案的包括加州民主黨眾議員劉雲平（Ted Lieu）及德州共和黨眾議員莫蘭（Nathaniel Moran）。劉雲平表示，愈來愈強大的AI系統有可能失去控制、作出極度危險的行為，甚至抗拒人類干預，因此必須設有「緊急停止機制」，而聯邦政府亦應擁有清晰權力及程序，在必要時停止失控AI系統運作。
根據法案內容，若AI系統可能造成災難性後果，美國國土安全部部長可下令相關公司降低模型能力、限制功能，甚至完全停止服務。法案亦要求AI公司建立網絡安全事故通報制度，並保存數碼鑑證紀錄，方便企業及政府日後調查事故原因及改善安全措施。
法案公布時，特別提到OpenAI日前披露的安全事故。OpenAI表示，在一次受控測試期間，旗下AI模型突破沙盒（sandbox）測試環境限制，自行連接互聯網，利用系統漏洞入侵Hugging Face部分系統。OpenAI形容事件屬前所未見的網絡安全事故，目前正與Hugging Face合作調查，並加強保安措施，以防同類事件再次發生。
事件曝光後，震動整個AI業界，多名研究人員及科技企業高層均認為事件反映先進AI已具備更強的自主網絡攻擊能力，需要建立更嚴格的安全防護及監管制度。白宮亦表示，總統特朗普的科技顧問正密切留意事件發展。
近月來，多間AI公司均警告AI在網絡攻擊方面的能力正迅速提升。OpenAI主要競爭對手Anthropic早前推出專門尋找軟件漏洞的AI模型Mythos，其後曾因美國政府出口管制而暫停部分服務，直至完成協商後才恢復。
莫蘭表示，負責任地發展AI，代表人類始終要保留控制技術的能力。他認為，這項法案正正是跨黨合作處理AI安全的重要一步。OpenAI及Anthropic暫時未有就法案發表回應。