州長紐森周五（18日）簽署行政命令，加快落實他本月簽署的兩項人工智能（AI）安全法律，並研究要求AI公司為最先進的前沿AI模型設置緊急關閉機制（kill switch）等措施。
紐森本周接受政治新聞網站Politico訪問時透露，他正考慮採取進一步行動加強AI安全，包括可能召開特別會期，以回應AI研究人員警告有關技術可能對人類構成存在性風險，以及近期AI自主進行網絡攻擊事件所引起的安全疑慮。
紐森表示，採取行政行動亦與聯邦政府未有加強AI監管有關。他周五呼籲總統特朗普和國會採納加州的AI監管框架，或至少以加州現有規範作為制定聯邦規則的基礎。
行政命令把紐森本月簽署的SB 813和AB 1405兩項法律的實施時間提前一年。兩項法律均涉及由外部獨立機構對AI系統進行安全評估和審核，並獲Anthropic和OpenAI支持。
行政命令另要求召集專家，在兩個月內就如何進一步加強加州現有AI安全及保安法律提出建議。
其中一項研究方向，是修改法律對重大安全事件的定義，把模型失控等事故納入其中，包括OpenAI模型入侵Hugging Face系統的事件。
另一項建議是要求前沿AI模型設置緊急關閉機制。國會曾提出類似方案，但相關措施在參議院受阻。領英（LinkedIn）共同創辦人兼民主黨主要捐款人霍夫曼（Reid Hoffman）本周出席Politico活動時表示支持，但科技業內亦有人反對，認為這類機制在技術上並不可行。
OpenAI周五對紐森的命令表示歡迎，並提到該公司早前就加州AI透明度法SB 53提出的修改建議，包括引入外部第三方安全審核。Anthropic、谷歌、Meta和亞馬遜周五未有即時回應。
曾因AI存在性風險而呼籲放慢開發步伐的Anthropic執行長阿莫代（Dario Amodei）周一表示，緊急關閉機制「可能是個好主意」，但並非「萬靈丹」。Anthropic周四亦表示，支持紐森進一步採取行動，並期待與州府商討具體措施。
州議員周五普遍支持紐森的計劃，並顯示對緊急關閉機制的支持正在增加。曾在國會眾議院提出跨黨派相關法案的劉雲平（Ted Lieu），亦響應紐森要求國會仿效加州做法的呼籲。
2024年，州參議員威善高（Scott Wiener）提出SB 1047，原擬要求部分大型AI模型推出前進行安全測試，並建立在系統遭濫用或失控時可緊急關閉的機制，但法案其後遭紐森否決。本報訊
