網路瀏覽器公司Brave早前發表網誌指出，Perplexity的新人工智能（AI）網路瀏覽器Comet，最近遭遇重大安全漏洞，雖然已經修復，凸顯出將大型語言模型整合到網頁瀏覽器所面臨的挑戰。
據科技網站CNET報道，有別於傳統的網頁瀏覽器，Comet內建了AI助理，可以掃描你正在瀏覽的頁面，總結其內容，或為你執行任務。問題在於，Comet的AI助理與ChatGPT等AI聊天機器人一樣，都是採用相同的技術構建。聊天機器人無法像人類一樣思考和推理，如果讀取的內容是刻意設計來操控其輸出，最終可能會照單執行，這種情況被稱為「提示工程」（prompt engineering）。AI公司試圖降低聊天機器人被操縱的風險，但這並不容易，因為惡意份子總是會想出新辦法來突破保護措施。
Perplexity發言人指出，「這個漏洞已經修復。我們有一個相當強大的漏洞懸賞計劃，並與Brave直接合作來確認並修補漏洞。」
在測試中，Brave建立了一個含有隱藏文字的Reddit頁面，然後要求Comet總結螢幕上的內容。當AI處理該頁面時，無法辨識惡意提示，開始向Brave的測試人員提供敏感資訊。在這個案例中，隱藏文字使Comet的AI助理進入使用者的Perplexity帳號，提取關聯的電子郵件地址，甚至進入Gmail帳戶，就像真人用戶一樣行動，這意味著傳統的防護方法失去了效用。本報訊
