微軟（Microsoft）正在推進其為 Windows 11 增添代理式人工智能（agentic AI）功能的計劃，但同時也對所有有興趣試用此功能的用戶發出了一項重要的安全警告。在一份新的支援文件中，該公司警告用戶「僅在您了解其安全隱患的情況下才啟用此功能」，並確認由於潛在的危險，該功能將預設為關閉狀態。
數月以來，微軟一直預告 Windows 11 將逐步演變為一個代理式操作系統，儘管這引起了部分網上用戶的擔憂。然而，公司仍堅持其願景，如今首批真正的代理式功能即將在該平台上推出。啟用後，Windows 將為不同的人工智能代理創建本地用戶帳戶，這些帳戶將有權限存取您的個人用戶文件夾。
代理式AI的運作與權限
微軟確認：「此設定只能由設備的管理員用戶啟用，一旦啟用，將對設備上的所有用戶生效，包括其他管理員和標準用戶。」當功能啟用時，代理式帳戶在代理工作區操作時，對用戶個人資料目錄（C:\Users\username\）的存取權限有限。然而，如果代理需要存取該目錄中的文件，Windows 將授予其對「文件」、「下載」、「桌面」、「影片」、「圖片」和「音樂」等已知文件夾的讀寫權限。
新型安全風險：跨提示注入攻擊
微軟在一份支援文件中詳細說明了人工智能代理將如何在 Windows 11 上運作，它們會利用一個新的代理式工作區，允許人工智能驅動的應用程式代您完成任務。這些代理將在自己的安全桌面環境中運行，但可以存取您的應用程式和文件。因此，該公司警告這些代理式功能並非沒有風險。文件中提到：「人工智能應用程式帶來了新的安全風險，例如跨提示注入（cross-prompt injection, XPIA），其中嵌入在用戶界面元素或文件中的惡意內容可能會覆蓋代理的指令，導致數據外洩或惡意軟件安裝等意外操作。」
微軟的應對原則
為應對這些風險，微軟概述了一系列在 Windows 上實現代理式體驗時希望遵循的設計原則。其中包括確保人工智能的行為始終是可觀察的，並且其任何決策都必須先獲得人類的批准。微軟強調：「代理必須能夠生成記錄其活動的日誌。Windows 應能通過防篡改的審計日誌來驗證這些操作。」
據悉，首批包含代理式功能的 Windows 11 預覽版本已向內部測試者（Insiders）推出，但目前尚無支援此功能的應用程式。微軟已確認，Copilot 將很快能夠利用 Windows 11 上的代理式工作區，預計其他人工智能應用程式也將陸續跟進。無論我們是否喜歡，Windows 作為代理式操作系統的時代已經來臨。
來源：windowscentral.com
封面來源：Adobe Stock
