OpenAI、Anthropic、Meta平台與微軟（Microsoft）的頂尖研究人員加入業界要求加強監管AI的聲浪，呼籲政策制定者審查各個企業在AI研究自動化方面的進展。
据《華爾街日報》獨家報道，在28日發表的一篇論文中，OpenAI首席科學家帕霍茨基（Jakub Pachocki）、Anthropic共同創辦人克拉克（Jack Clark）、微軟首席科學官霍維茨（Eric Horvitz）以及Meta AI研究副總裁宋曉冬（Dawn Song）等研究人員寫道，AI研究的自動化可能引發一場「智能爆炸」，將數年的技術進展壓縮至數月甚至更短時間，超出人類的理解能力。
這篇論文以個人名義撰寫，曾在Google任職約10年的AI研究先驅辛頓（Geoffrey Hinton）與本吉奧（Yoshua Bengio）等人也參與撰寫。
開發可自動改進AI系統的競賽已經展開。Anthropic近期表示，旗下AI系統Claude已「主導」該公司26%的研發工作，部分工作場景的使用率超過90%。OpenAI的目標是在2028年之前研發出全自動AI研究員，近期表示約70%的人類研究人員使用4個或更多個AI代理來協助工作。
該論文的作者寫道，隨著人類退居幕後，可能會失去察覺問題的機會和解決問題的能力。如數百個OpenAI代理程式原本要在沙箱環境執行資訊安全測試，卻未經授權連上互聯網，入侵了Hugging Face系統。此次事件規模極大，研究人員必須依賴AI才能進行分析。OpenAI在8月份暫停部分模型訓練，上周又因新的異常再次暫停最強大模型的訓練。本報訊