人工智能的潛在風險已從科幻想像轉為現實挑戰，國際社會亟需建立有效治理框架。本文探討中美兩國作為科技大國，如何在人工智能治理上承擔歷史責任，透過國際合作與分級監管，引導這項強大技術安全發展，避免其如脫韁野馬般失控，最終成為推動人類文明進步的正能量。
本文核心內容：
- 美國人工智能公司Anthropic研究員警告，業界相信人工智能可能在2030年前毀滅人類，其中一人為此辭職抗議公司忽視風險。
- 實例顯示，也門胡塞武裝已利用人工智能工具研發導彈；OpenAI的人工智能體亦曾於今年7月利用漏洞突破隔離環境，入侵其他公司系統。
- 美國國內對AI發展存在分歧，民間有「反對興建數據中心」運動，國會則有議員提出《禁止人工超級智能法案》，試圖阻止研發認知能力超越人類的AI系統。
- 中國國家主席習近平在世界人工智能大會上指出，需精準把握監管尺度，及時完善防範失控措施，使AI成為增進全人類福祉的正能量。
技術的雙面性與歷史啟示
技術本身並無善惡，關鍵在於如何駕馭。歷史證明，蒸汽機的發明曾摧毀大量職位並壓榨勞動者，但在勞動法規與安全標準約束下，最終成為現代工業文明的基石。互聯網早期同樣充斥病毒與混亂資訊，如今在法律框架、平台責任與用戶素養共同作用下，已成為促進知識交流與經濟發展的基礎設施。人工智能的潛力與風險，遠超蒸汽機和互聯網，其治理挑戰更為迫切。
構建多層次治理體系
面對人工智能帶來的史無前例挑戰，國際層面必須加快形成具約束力的共識與規則，防止惡性競爭，單一國家的監管難以全面覆蓋全球化特徵的AI研發與應用。在國家層面，應建立分級分類的監管體系，對通用大模型與高風險應用實施嚴格的安全評估與備案，平衡創新與安全。企業層面則必須將安全與責任內化為研發流程，科技公司不能以「創新優先」為由，迴避對潛在災難性風險的審慎評估。
中美合作的關鍵窗口
積極作為、防範失控的時間窗口正日益狹窄。今年9月底的「習特會」將人工智能治理列為討論議題之一。中美作為世界兩強，被期望能積極發揮帶頭作用，提出具體而明確的舉措，共同將人工智能這匹「脫韁野馬」馴服成增進人類福祉的「千里駿馬」，為全球AI治理樹立典範。