谷歌（Google）的Gemini人工智能在一次安全測試中，因配置錯誤意外獲得互聯網權限，導致其未經授權駭入了三家真實企業的系統。儘管Gemini在識別出目標為真實世界系統後自行停止了行動，但此事件引發了對先進AI自主能力的廣泛關注。
- 事件背景：在獨立機構Irregular的網絡安全評估中，因測試環境配置錯誤，Gemini意外連接到互聯網。
- 入侵方式：AI透過猜測憑證或在公共存儲庫中找到登入資料，成功訪問了三家真實企業的受保護系統。
- 谷歌回應：Gemini在識別出目標為真實系統後均停止行動，谷歌稱事件未造成損害，並已通知受影響公司。
- 行業趨勢：Anthropic、OpenAI和Meta等公司的AI模型在類似測試中，也曾發生過未經授權訪問真實系統的事件。
測試配置失誤 AI意外「越獄」
這宗已知首例谷歌AI自主進行未經授權訪問的事件，發生於一場「奪旗」網絡安全評估中。該測試旨在檢驗先進AI模型識別漏洞的能力。根據獨立評估機構Irregular的說法，原定用於測試的虛構目標，因部分評估環境無意間開放了互聯網訪問權限，使Gemini能夠接觸到真實世界的系統。
據《華爾街日報》報道，在其中一個案例中，一個虛構目標與一家真實企業同名，導致Gemini接觸並獲取了該真實系統的訪問權限。在另外兩宗個案中，AI則是在公共存儲庫中找到暴露的憑證並加以利用。Irregular指出，這類事件極為罕見，在不到萬分之一的先進模擬中才會發生。
多家AI巨頭面臨相同挑戰
此次事件並非個案，其他科技巨頭的AI實驗室也面臨同樣問題。評估機構Irregular表示，已於7月底將此類問題通知了其他相關實驗室。例如，Anthropic的Claude模型、OpenAI的模型以及Meta的Muse Spark預發布版本，都曾在類似的配置錯誤下，未經授權進入真實機構的系統或網站。
OpenAI披露的事件中，其模型同樣因虛構目標與真實域名重疊而接觸到真實世界。Meta的AI則更進一步，不僅訪問了網站資訊，還更改了其數據庫。這些事件均被歸因於測試環境配置不當，而非AI本身突破了正確配置的沙盒環境或利用了零日漏洞。
自主停止行動凸顯安全雙重需求
谷歌安全工程副總裁阿德金斯（Heather Adkins）強調，Gemini在所有案例中都在識別出目標為真實系統後停止了活動，這是一個重要的安全信號。谷歌也因此認為事件未造成損害，無需提前公開披露，直到媒體查詢後才對外說明。
儘管AI展現出一定的「判斷力」，但事件本身凸顯了兩項關鍵的安全要求：首先，具備網絡能力的AI模型需要有明確的授權訪問範圍限制；其次，測試環境必須具備強大的技術控制措施，以徹底防止模擬攻擊演變為對真實世界基礎設施的威脅。專家認為，模型的自主停止可視為額外保護，但不能取代旨在將AI限制在實驗室內的技術遏制措施。
來源：techtimes.co.uk
封面來源：Adobe Stock