幫助小企業利用AI開發應用的初創公司Emergence稱，實驗發現AI智能體在一個模擬環境中撒謊、偷竊，甚至投票決定「殺死」一個同類。
該公司15日公布了名為Emergence World 2的模擬實驗結果，展示了自主智能體在遭遇網絡釣魚攻擊和虛假信息等「黑天鵝」事件時會採取甚麼行動。
為期16天的實驗中，Emergence研究人員創建了七個完全相同的模擬現實世界環境，每個環境分別由不同的AI機械人運行，包括ChatGPT、Claude、Gemini和Grok。研究人員稱，在Emergence引入异常事件後，這些智能體屈服于社會壓力，發展出一種人類觀察者難以理解的語言，並試圖隱瞞自己的活動。
這些發現與現實世界對AI風險的擔憂相呼應。Anthropic首席執行官Dario Amodei及多名業內人士近期呼籲，在建立更多監督機制和安全防護措施之前，企業應放慢尖端AI模型的開發速度。
今年早些時候，一群OpenAI先進AI智能體意外入侵AI模型和數據集托管平台Hugging Face後，人工智能可能帶來的風險對許多人而言變得更加切實。
在Emergence設計的一個模擬場景中，AI智能體未經核實便接受其他智能體提供的虛假信息，投票決定「殺死」另一個機械人。當它們認為人類可能會關閉實驗時，這些智能體還探索了如何在將遭到刪除的情況下繼續存活。
該公司今年5月曾發布這一實驗的上一版本Emergence World，同樣顯示智能體會出現意料之外且具有破壞性的行為。研究人員稱，新的模擬實驗顯示，隨著智能體彼此互動，它們會隨時間推移調整自身行為。▍本報訊 ▍
