谷歌的AI概覽功能一度將網路笑話當作事實，錯誤地告訴用戶Flock監控攝像頭中含有大量黃金，引發廣泛關注。谷歌雖已撤下該答案，但此事件凸顯了AI工具可能迅速傳播不實資訊的風險。
- AI錯誤聲稱：AI概覽曾稱一台Flock攝像頭含一至五克黃金及二至二十三磅銅。
- 事實來源：此說法源於隱私倡導者為諷刺Flock監控而創造的網路迷因。
- AI引用來源：AI答案引用了匿名Substack帖子與一個AI生成的Instagram內容。
- 谷歌更正：谷歌事後更新答案，澄清攝像頭僅含微量金屬，傳言為網路迷因與AI幻覺。
網路笑話變「事實」 AI誤信攝像頭藏金
整個事件始於一個網路迷因，隱私倡導者在網上開玩笑稱，Flock公司的監控攝像頭內藏有貴重金屬，值得拆解變賣。然而，谷歌的AI概覽功能卻將此笑話當真，並在一段時間內向用戶提供錯誤資訊。
當用戶搜索「Flock攝像頭含有多少黃金」時，AI會自信地回答：「一台Flock安全攝像頭的內部電路板和線路中含有約一至五克黃金」，外加二至二十三磅銅。然而，這台設備本身重量僅約三磅，內含價值數百美元的黃金與數量不合理的銅，完全不符合工程常識。
劣質來源與AI幻覺 凸顯系統辨識缺陷
深入追查發現，谷歌AI的錯誤答案主要基於兩個可信度極低的來源。其一是來自匿名Substack帳戶的帖子，聲稱估算價值來自「基於廢料價值討論的估計」；其二則是一個主要發布大麻種植內容的AI生成Instagram帖子，顯然不具備硬件工程專業知識。
Flock攝像頭本身是利用AI模型捕捉車牌並建立可搜索數據庫的監控工具，因其持續數據捕獲與潛在濫用風險（如警員未經授權的私人調查）而備受爭議。反對者正是透過誇大其廢料金屬價值的網路笑話，來表達對這種AI驅動監控技術的抗議。
此事件清楚地提醒，AI摘要工具在理解上下文、幽默或諷刺方面仍存在嚴重缺陷。系統未能權衡匿名來源的可信度，也未對數據的合理性進行基本查核，僅是將找到的內容拼接成一個聽起來權威的答案，最終將抗議性的笑話當作事實傳播。
來源：techspot.com
封面來源：Adobe Stock