本報記者周靜然紐約報道
紐約市議會議長朱曼寧（Julie Menin）5日前主持一場歷時數小時的人工智能（AI）監管聽證會，要求多家主要AI企業正面回應AI失控可能帶來的風險及責任問題，並推動一系列地方監管措施。與此同時，市長馬姆達尼（ Mamdani）雖表示支持議會舉行聽證會，但強調AI監管應主要由聯邦政府處理，顯示兩人在AI政策上的著眼點有所不同。
朱曼寧在聽證會上向四家主要AI企業代表提出一連串問題，包括企業能否量化可能造成災難性後果的風險、是否投保相關風險，以及一旦AI造成重大災難，究竟由誰承擔責任。她又追問，如果AI模型未能通過企業內部安全測試，或遭第三方監管機構標記為存在風險，公司是否會停止該模型運作。
不過，多名企業代表未能立即回答部分問題。朱曼寧對記者表示，企業連一些最基本的干預措施問題都無法明確回答，令人失望。
朱曼寧目前正主導市議會針對AI提出的一系列監管法案，包括要求AI模型設置由人員啟動的「終止開關」（kill switch），以及賦予個人更容易向AI企業提出訴訟的私人訴權。
她在聽證會開場時表示，舉行聽證會的目的，是確保科技創新能夠以負責任的方式進行，同時確保政府在科技發展之際履行保障公眾的責任；市級層面的監管措施未來也可能成為全國其他地方的參考模式。
馬姆達尼則在同日另一場記者會上表示，AI「必須在每一個層面受到監管」，因為這項技術影響整個國家。不過，他強調AI並非紐約市獨有的問題，因此最迫切的監管行動應在聯邦層面展開。
馬姆達尼表示，他支持市議會舉行相關聽證會，也會研究議會提出的法案，但重申聯邦政府應在AI監管問題上扮演更重要角色。他此前已禁止紐約市小學及中學使用AI，亦曾談及AI可能帶來的反烏托邦式風險，但在前沿AI（frontier AI）監管方面，主要主張由聯邦政府介入。
代表紐約科技產業的Tech則警告，若紐約市自行制定AI監管制度，可能造成全國各城市各自採用不同規定的「拼布式」監管環境，對小型企業及初創公司尤其不利。
該組織政府事務主管亨寧（Matt Henning）表示，如果紐約市自行制定AI驗證制度、法律責任規則、事故通報期限及廣告披露要求，其他城市可能仿效，最終一家在50個城市提供服務的初創企業，可能被迫維持50套不同的合規制度。
朱曼寧則反駁指出，聯邦政府目前選擇不對AI進行監管，並不意味地方政府只能袖手旁觀。她認為，紐約市是全國最大城市之一，議會已提出多項法案，而且市政府有能力迅速採取行動，在州政府及聯邦政府尚未完成相關監管之前，先行建立保障措施。
聽證會期間，三名前AI業界人士及「吹哨人」亦出席作證，警告高度自主的AI系統可能帶來嚴重安全風險。曾任Google DeepMind研究人員的Turner表示，如果大量AI代理形成具高度自主性的「超級智能群體」，可能利用勒索、駭客攻擊、操縱資訊甚至AI控制的武器造成危害，並可能試圖控制重要基礎設施及政府職能。
曾任Anthropic研究人員的Coxon則警告，即使AI最終仍掌握在人類手中，也不能單純假設少數大型科技企業高層能夠以符合公共利益的方式控制這項技術。
另一方面，出席聽證會的AI企業代表雖未能回答議長提出的所有問題，但亦對部分議會監管建議表示支持，並強調AI在醫療及科學研究等領域具有重大潛力。Anthropic代表Graham表示，公司支持「明智的監管」，並一直主張在紐約州、全國及全球推動相關規範。
目前，紐約市議會提出的AI監管方案仍在討論及立法程序中，而朱曼寧與馬姆達尼對地方及聯邦監管角色的不同側重，也使紐約市未來如何規範快速發展的AI技術成為政策討論焦點。
