AI研究員雅各布·考克森（Jacob Coxon）已從Anthropic辭職，並公開警告指責該公司與OpenAI正不負責任地開發超級智能，拿人類的生命作賭注。他的警告在社交媒體上迅速傳播，引發廣泛關注。
考克森在X平台發布的辭職聲明指出，他曾在OpenAI和Anthropic從事預訓練研究，但認為兩家公司都在「直奔自我改進的超級智能」，其行為不負責任。
- 核心指控：考克森指控OpenAI和Anthropic兩家公司行為不負責任，為率先達到超級智能而競賽。
- 生存威脅：他引述業內人士的私下恐懼，稱開發者真誠相信AI可能在本世紀末之前殺死所有人。
- 行業心態：他透露Anthropic內部認為必須率先開發，因為相信沒有其他公司會負責任地行事。
- 緊急呼籲：他敦促實驗室研究人員反思，並呼籲為開發超級智能設定更嚴格的條件。
「終局」競賽下的安全隱憂
27歲的考克森在接受《華爾街日報》專訪時表示：「我們正朝著許多最激進的情境發展，到明年年底，事情可能已經失控。」他指出，Anthropic與OpenAI之間，以及與中國競爭對手的競賽，使得安全上的權衡變得不可避免。該報還提到，考克森的AI同事會使用「關鍵時刻」和「終局」等術語來描述快速推進的自我改進AI模型狀態。
考克森在他的系列貼文中寫道：「開發人工智能的人真誠地相信，它可能在本世紀末之前殺死我們所有人。這不是營銷噱頭。」他強調，許多高管和資深研究人員私下表達的恐懼遠比公開言論更為強烈。
呼籲同業發聲反思
對於外界質疑「為何相信危險卻仍繼續開發」，考克森解釋了行業心態。他認為在OpenAI，許多人未深刻理解文明存亡的利害關係；而在Anthropic，雖然利害關係被充分理解，但公司陷入了一場「率先到達」的競賽，認為必須由自己來做才能確保責任，儘管存在風險。
考克森並非唯一發出警報的人。OpenAI首席執行官山姆·奧特曼（Sam Altman）最近也曾表示，若不緊急採取行動，網絡安全方面將出現嚴重問題。考克森在他的訊息結尾敦促其他研究人員發聲：「你想在沒有對其思維有嚴格理解的情況下啟動超級智能強化學習運行嗎？你應該因為『反正會發生』而埋頭苦幹——還是抓住這一刻呼籲不同的條件？」
來源：deadline.com
封面來源：Adobe Stock