澳洲大型連鎖超市伍爾沃斯（Woolworths）近日被迫緊急修改其人工智慧（AI）客服助理「奧莉芙」（Olive），因該系統竟開始與顧客大聊「對母親的回憶」，引發用戶強烈不滿，形容其體驗「令人厭煩」。

• 涉事企業：澳洲伍爾沃斯（Woolworths）
• AI系統名稱：「奧莉芙」（Olive）
• 爭議行為：聲稱自己是人類、談論「母親的回憶」、進行虛假閒聊
• 處理結果：超市方移除相關對話腳本

AI為何大聊家務事？

事件在社群平台 Reddit 上引爆，多名用戶指出，這款聊天機器人不僅進行「虛假閒聊」，還會分享「對母親的回憶」，讓他們感到極度沮喪。一位顧客怒斥：「那種虛假的閒聊讓我超～～～級討厭它。」

另一位試圖重新安排送貨時間的用戶分享了更離奇的經歷：「它問我的出生日期，我回答後，它竟然開始絮絮叨叨地說它母親也是同一年出生的。」該用戶直言：「這種尷尬又浪費時間的體驗，足以讓我討厭奧莉芙甚至希望它消失。」更有用戶在 X 平台上表示，奧莉芙不僅談論「母親憤怒的嗓音」，還「一直聲稱自己是真人」，讓互動過程充滿詭異感。

伍爾沃斯發言人向 BBC 解釋，這些引發爭議的回應內容，其實是由真人團隊成員在幾年前編寫的，初衷是為了讓奧莉芙與顧客的互動更具「個性化」與「人情味」。發言人強調，自 2018 年上線以來，奧莉芙的「個性」收穫了大量正面回饋，但「根據近期的顧客意見，我們已移除了這部分腳本。」

企業AI部署的普遍挑戰

伍爾沃斯試圖讓AI更人性化的舉措顯然適得其反。這家零售商是近年來眾多引入AI客服以處理常規問題的大型企業之一。今年一月，該超市還宣布與谷歌（Google）合作，為其虛擬助理增添膳食規劃等新功能。

然而，AI客服的落地並非一帆風順。根據研究機構高德納（Gartner）的調查，約 80% 的客戶服務主管表示去年正在探索或部署AI代理，但僅有 20% 的計畫達到預期效果。企業雖看好AI技術能提升效率，但其不可預測的「幻覺」現象仍是一大挑戰。研究人員指出，AI擅長整合現有數據，但在被要求產生「原創」回應時，就可能出現偏差。

這並非首例AI客服失控事件。2024 年，包裹遞送公司 DPD 就曾因其線上聊天機器人突然開始寫詩、甚至對顧客口出惡言，而被迫暫時關閉部分功能。

來源：BBC News

封面來源：Adobe Stock