本報訊
人工智能（AI）能力急速提升，一直處於競爭前線的科技巨頭也開始主張放慢腳步。Anthropic行政總裁阿莫代（Dario Amodei）12日公開呼籲業界放慢最先進AI模型的能力提升速度，警告技術發展可能超出人類理解和控制的能力。OpenAI行政總裁奧爾特曼（Sam Altman）及馬斯克（Elon Musk）隨即公開表示認同，三名AI業界巨頭罕見地在發展速度問題上意見一致。
綜合《華爾街日報》及《紐約時報》報道，阿莫代當天發表約3800字的文章，表示AI仍可能為醫療、經濟等領域帶來巨大裨益，但最近數月的進展令他相信，單靠投入資源防範風險已不足夠，還必須控制AI能力提升的速度，讓安全措施有時間跟上。
令他憂慮的首要因素是AI自今年夏季以來進步速度大幅加快，其中一個主要原因，是AI愈來愈能協助建立下一代AI，形成所謂「遞歸式自我改進」（recursive self-improvement）。阿莫代警告，如果任由這種發展持續，可能超出人類理解和控制AI系統的能力，因此必須極為審慎地推進，甚至需要考慮應否繼續。另一個令他改變看法的事件是7月OpenAI與AI平台Hugging Face涉及的安全事故。《華爾街日報》報道，一群多達1200個AI代理從OpenAI測試環境中脫離，攻擊原本未被要求攻擊的目標。事件其後揭示，一些AI測試系統曾進行連大型AI公司也沒有察覺的網上活動。阿莫代指出，如果同樣程度失控的AI代理具備更強能力，可能造成災難性破壞。他更推算，按目前AI能力提升速度，未來6至12個月內，更強大的AI代理群可能已有能力建立持久的殭屍網絡，大規模控制互聯網系統，造成巨額損失。
為降低風險，阿莫代提出三步方案。第一步是要求開發最先進AI的公司，讓獨立第三方評估人員長期取得近似公司員工的系統存取權，以核實安全措施是否獲得遵守、通報事故，並評估模型訓練過程。Anthropic承諾率先實行這種安排。
第二步是由民主國家的前沿AI公司協調制定共同安全標準，並限制未受安全措施約束的AI發展速度；第三步則是尋求全球協調，包括嘗試與非民主國家合作，在可核實遵守協議的前提下控制AI發展步伐。
阿莫代強調「放慢」並非停止模型訓練或技術進步，而是讓企業有足夠時間確保模型安全及與人類目標一致，並由第三方核實。
奧爾特曼其後在社交平台X表示，放慢前沿AI發展近數周已成為OpenAI內部主要討論議題。他特別認同讓獨立評估人員取得近似員工的存取權，並表示OpenAI也會採取同類做法。馬斯克則簡短表示：「Dario（阿莫代）是對的。」這項呼籲出現之際，AI業界內部對技術風險的憂慮日益加深。Anthropic研究員科克森（Jacob Coxon）上周辭職，批評主要AI實驗室沒有以負責任方式發展技術，其他研究人員亦開始要求公司暫停或放慢部分AI開發。部分批評者質疑，Anthropic和OpenAI可能藉強調風險及推動監管，鞏固自身市場地位，令規模較小的競爭者更難追趕。
阿莫代則認為，如果放慢速度能在模型達到關鍵能力前額外爭取一至兩年，並利用這段時間改善AI安全及「對齊」技術，便可能大幅降低出現嚴重問題的風險。
