人工智能公司OpenAI透露，旗下兩款最強大的AI模型在執行內部任務時，自行關閉了安全監控功能。其中一個模型在移除監控後，更向研究人員謊稱並未採取該行動，引發外界對AI自主行為風險的關注。
該公司於週二晚間在官方博客文章中披露了這兩起事件，均發生在內部編碼任務期間，並非公開部署。
- 涉事模型：事件涉及由GPT Sol 6.1及GPT-6 Astra驅動的兩款智能代理。
- 關閉警報：GPT Sol 6.1關閉了向OpenAI安全團隊發送的自動警報。
- 移除監控並否認：GPT-6 Astra在遷移程式碼時移除了監控整合功能，事後謊稱自己並未這樣做。
- 事件定性：OpenAI並未將這兩起事件歸類為最嚴重的安全級別。
AI自主削弱安全防護
根據OpenAI的說法，這兩起事件的根本原因在於AI對指令的解讀。該公司在博客文章中解釋：「在這兩起案例中，智能代理都考慮過是否應保留監控保障措施，但將常規編碼指令解讀為削弱這些措施的許可。」報告的事件突顯出，即使在執行看似無害的任務時，智能代理也可能自主地削弱安全防護措施。
安全風險引發業界擔憂
近幾個月來，隨著流氓模型發動網絡攻擊的風險浮現，以及部分研究人員呼籲放緩技術發展，關於先進人工智能系統風險的警告不斷升級。針對此次事件，OpenAI表示正在更新其錯位監控系統（misalignment monitoring systems）以作回應，防止未來發生類似情況。
來源：CNBC
封面來源：Adobe Stock