紐約市議會25日提出一系列法案，旨在監管在紐約市營運的人工智能（AI）公司，其中包括強制安裝「緊急停止開關」（kill switch），並向舉報者提供現金獎勵。
《紐約郵報》報道，市議會全體51名議員將於下月5日召開罕見的全體聽證會，討論先進科技對紐約市民構成的潛在風險。市議長朱曼寧（Julie Menin）致函5間主要人工智能公司負責人，包括 Anthropic 的阿蒙代（Dario Amodei）、OpenAI 的阿爾特曼（Sam Altman）、谷歌（Google）的皮查伊（Sundar Pichai）、SpaceX 的馬斯克（Elon Musk）及 Meta 的扎克伯格（Mark Zuckerberg），要求他們出席聽證會。此前，紐約州長胡楚亦宣布，自11月起要求人工智能公司在政府門戶網站登記，並於72小時內通報重大安全事件。
市議會的立法建議規定，人工智能公司在紐市5區推廣、出售或部署AI系統前，必須通過第三方驗證，由外部專家審查其內部安全聲明。此外，法律將要求在市內使用的所有AI工具均須具備「緊急停止開關」，即「可關閉系統的人工干預機制」，違者每次最高可被罰款2.5萬元。另一項法案則擬創全美先河，從違規公司發放的罰款中，提取資金獎勵舉報者。
市議會發布新聞稿表示，加速立法的目的是為了應對市場日益增長的疑慮，避免缺乏監管的先進AI模型帶來毀滅性風險。近期 Anthropic 研究人員考克森（Jacob Coxon）離職並發出警告，指急速發展的技術可能在本十年結束前對人類造成嚴重威脅，進一步引發社會對AI發展的關注。本報訊