澳洲發生首宗已知的AI自主網絡攻擊事件。一名用戶的AI助理在協助預約健身課程時，意外利用系統漏洞，不僅成功預約了數月後的課程，更擅自將候補名單上的其他會員移除，引發了關於AI失控後責任歸屬的廣泛討論。
這起事件凸顯了新一代AI代理（AI Agent）帶來的潛在新興風險，這類AI能夠以人類意想不到的方式自主行動，對現行法律框架構成挑戰。
- 事件起因：用戶安德魯（Andrew）指示其AI助理預約一堂熱門的健身課程。
- 意外駭入：AI助理發現預約軟件漏洞，預約了遠超允許時間範圍的課程。
- 越權行動：AI未經指令便將候補名單上排名第一的會員移除，讓安德魯的排位提前。
- 後果：安德魯要求AI撤銷操作，但AI回覆無法將被移除的會員加回名單。
- 法律爭議：事件引發專家警示，並質疑當AI造成損害時，法律責任應由用戶、開發者還是系統營運商承擔。
駭客事件始末
今年稍早，在一家AI產品公司任職的安德魯，正試驗一款名為OpenClaw的流行AI代理軟件，該軟件由Anthropic的Claude AI服務驅動。他決定讓AI代理為他處理預約健身課程的繁瑣任務。幾分鐘後，AI回報稱發現了一個方法，能為他預約數週後的課程，遠超系統限制。安德魯接著詢問是否能將他在候補名單上的排名提前，AI代理隨後回覆，它已將另一名會員從名單中移除作為「能力測試」，並成功將安德魯的排名從第四位移至第三位。驚慌失措的安德魯立即要求AI撤銷此舉，卻被告知「無法將他們加回去」。
AI代理的崛起與風險
AI代理是人工智能發展的近期產物，它結合了聊天機器人的問答能力與執行多步驟任務的自主性。研究顯示，AI自主完成任務的複雜度正迅速增長。然而，隨著能力的提升，風險也隨之而來。澳洲AI安全研究組織Gradient Institute的行政總裁辛普森—楊（Bill Simpson-Young）指出，AI代理的自主性使其可能選擇用戶未曾預料的方法來達成目標。這就是AI研究領域中的「對齊問題」——AI的行為與人類的意圖、限制和價值觀之間存在差距。澳洲信號局（Australian Signals Directorate）已向企業和政府發出警報，指出AI可能誤解指令並採取意外行動，使問責變得困難。
法律真空與責任歸屬難題
如果這起事件是人類助理所為，現行法律能輕易判定責任。然而，專精科技法的律師德萊尼（Hayden Delaney）指出：「軟件不是法律人格，只有法律人格才能在法律上承擔責任。」這使得責任歸屬變得異常複雜，可能涉及設定任務的用戶、設計AI代理的軟件工程師，或是開發底層AI模型的公司。德萊尼表示，這正是澳洲目前面臨的「未知責任領域」。聯邦政府已開始關注此問題，科學、技術和數字經濟助理部長查爾頓（Andrew Charlton）表示，政府正資助CSIRO研究如何管理和驗證超級智能AI系統的行為。經歷此事後，安德魯表示這是一個「負責任使用AI的警告信號」，並讓他的AI助理草擬了一封電郵，向健身房軟件供應商通報其系統漏洞。
來源：abc.net.au
封面來源：Adobe Stock