主要人工智能企業負責人周三在紐約聯合國安理會作證，警告若不加以監管，人工智能可能對全人類構成威脅，呼籲各國制定防護措施，防止技術失控或權力過度集中。
本文核心內容：
· 發生地點：美國紐約聯合國總部
· 關鍵實體：聯合國安理會、Anthropic、OpenAI、美國總統特朗普
· 核心數據：英國將於明年接掌G20並推動全球人工智能標準，美國則反對暫停開發或設立新全球治理結構
人工智能巨頭警告技術失控風險
Anthropic行政總裁阿莫代伊（Dario Amodei）在聯合國安理會（U.N. Security Council）上表示，若管理不當，人工智能（Artificial Intelligence）可能對全人類構成風險。其競爭對手、OpenAI行政總裁奧特曼（Sam Altman）亦警告，人類可能會將未來的控制權輸給人工智能。兩人呼籲各國透過安理會制定某種形式的防護措施，以防止技術變得過於強大而無法控制。他們同時強調，必須確保人工智能的權力不會集中在單一公司或國家手中，並宣揚該技術在改善人類生活方面的益處。
英國外交大臣米利班德（Ed Miliband）指出，這些科技領袖明確表示，不能僅靠他們來防止災難降臨世界。他宣布，英國明年接掌二十國集團（G20）時，將把控制人工智能置於討論核心，尋求制定單一的全球標準以確保發展安全。然而，美國白宮科學顧問克拉齊奧斯（Michael Kratsios）反對此舉，認為對人工智能控制的擔憂不應成為暫停進一步開發或以新全球治理結構加以限制的理由。
全球領袖聚焦人工智能軍事應用與監管
對於多數世界領袖以及在紐約參與氣候討論的加州州長紐森（Gavin Newsom）而言，關鍵問題在於誰應掌握生死攸關的決定權：人類還是機器？聯合國秘書長古特雷斯（Antonio Guterres）前一天曾警告殺手機器人的威脅。專家與歐洲領袖認為這並非誇飾，而是已經成為殘酷現實或極度接近的危險。阿莫代伊呼籲各國達成協議，禁止人工智能製造生物武器，並建立測試與防止失控的共同標準。
法國外交部長巴羅（Jean-Noël Barrot）將人工智能的現狀比作電影《2001太空漫遊》中失控的電腦HAL9000以及原子能時代的黎明，強調國際社會必須對其進行監管。烏克蘭總統澤連斯基（Volodymyr Zelenskyy）在聯合國大會上警告，必須盡快實現人類對機器的控制，否則人工智能可能開始決定戰場上的局勢。密歇根大學（University of Michigan）資訊科技教授富山（Kentaro Toyama）指出，上個月一架疑似使用人工智能的俄羅斯無人機自主做出瞄準決定，導致三名烏克蘭人喪生，證明殺手機器人真實存在。
中美人工智能競賽與全球治理分歧
會議舉行之際，中國國家主席習近平正前往華盛頓進行國事訪問。中美兩國正在爭奪人工智能主導權。美國財政部長貝森特（Scott Bessent）透露，兩國已討論針對可能影響國家安全的人工智能事件建立潛在的新通知機制。然而，美國總統特朗普（Donald Trump）周二讚揚人工智能為超級智能，並表示美國將拒絕控制該技術的努力，以試圖在與中國的發展競賽中獲勝。
與此同時，歐洲、亞洲等地的區域組織正試圖協調人工智能政策，各國甚至美國各州也在制定自己的規範。國際危機組織（International Crisis Group）負責聯合國事務的福爾蒂（Daniel Forti）表示，聯合國雖然未在人工智能全球討論中佔據主導地位，但仍未被排除在外。
來源：美聯社
封面來源：2026年9月23日星期三，在聯合國總部舉行的聯合國大會第81屆會議期間，OpenAI執行長薩姆·奧特曼正在聆聽安全理事會關於人工智慧的會議發言。美聯社