美國紐約州議會日前通過《RAISE法案》，以防止尖端AI模型釀成大規模災難，例如導致超過百人傷亡或超過10億美元的經濟損失。該法案針對OpenAI、Google及Anthropic等擁有超過1億美元訓練成本、並對紐約州民眾提供服務的AI公司，中小型AI開發者則不在管轄範圍內。不過，該法案仍需紐約州長Kathy Hochul簽署，才能成為法律。
AI模型異常需主動通報
據外媒報道，一旦法案獲正式通過，未來所有全球大型AI實驗室必須提交詳細的安全與資安報告，並在AI模型異常或資料外洩時主動通報；若有未達標準者，將面臨最高3,000萬美元的民事處罰。
不過，該法案不會要求企業設置AI模型的「關機鍵」，也不追究模型後訓練開發者的連帶責任。參與起草法案的Encode法律顧問Nathan Calvin 對此表示，此舉是為避免過度干預技術發展。
