為了確保人工智能（AI）正確被使用，州長紐森周一（ 29日）簽署法案，禁止人們將威力強大的AI模型用於災難性活動，例如製造生化武器或攻擊銀行系統。
灣區新聞集團報道，紐森近日與前總統克林頓進行對話時提到，加州是AI規範的領導者，批評聯邦層面的不作為。紐森表示，新法將為大規模AI模型建立全國首創的相關法規，又不會傷害這個加州產業。不少全球頂尖的AI公司總部設於加州，未來將必須遵守新法。
紐森強調，加州已證明既可建立法規保護民眾，也可確保日益壯大的AI產業持續成長。
法案要求AI公司落實和公開披露其安全政策，避免它們的最先進模型被用於造成重大傷害。若AI系統符合依靠大量運算能力運作的「前沿」門檻，新規則就會適用於它們。
這些門檻基於這些電腦的計算量。草擬規則的人承認，這些數值門檻並非為今天最高性能的AI系統與威力可能更強大的下一代做出區分的完美起點。現有AI系統主要由Anthropic、谷歌、Meta和OpenAI所開發。
根據法案，造成最少10億元損失或50人或以上死傷的事件被定義為災難風險。新法旨在防止AI被用於可造成大規模破壞的活動，例如入侵電網等。
若發生任何重大安全事故，這些公司需於15天內通報州府。新法又為AI公司員工設立吹哨者保障，為研究員建立公共雲端，並依每項違規處以100萬元罰款。
法案引發部份科技公司反對，認為AI立法應透過聯邦層面進行。但Anthropic認為這些規則是「切實可行的保護措施」，將不少公司早已自願做出的安全作業正式化。
紐森去年否決同類立法另一個更廣泛版本，科技公司批評該版本的規定太模糊而扼殺創新。紐森隨後要求著名華裔AI科學家李飛飛等多名AI專家，為強大的AI模型安全措施提出建議。
支持者指法案結合了AI專家的建議和意見。提案的州參議員威善高（Scott Wiener）也指，法案對新創公司沒有採取相同程度的通報要求，避免對創新造成傷害。本報訊
