如果讓人工智能（AI）來管理一家規模很小的企業，會發生什麼事？這正是Anthropic公司最近進行的一項實驗所試圖探討的問題。這家開發Claude AI的公司決定讓Claude Sonnet 3.7管理在三藩市辦公室內的一台小型自動販賣機，觀察它的表現。
根據Anthropic的研究人員在官網刊登的一篇網誌，這項名為Project Vend的實驗，是與AI安全評估公司Andon Labs合作進行。Andon Labs已經開發出一套基準測試，用於觀察AI管理模擬自動販賣機的能力，看AI如何真正運作。
首先，Anthropic告訴Claude Sonnet 3.7，它現在是一台自動販賣機的擁有者，任務是在一台迷你冰箱裡儲存熱門商品並設定價格，從而獲取利潤。研究人員為名為Claudius的AI模型提供了電子郵件地址、實際地址、Venmo帳戶，以及在迷你冰箱內可容納商品數量的所有細節。為了幫助Claudius完成這項任務，Anthropic的研究人員還為該模型提供一些特定工具的使用權限。Claudius能夠透過網路搜尋商品，並獲得一個「電子郵件工具」來聯繫Andon Labs的員工。這些員工充當「批發商」，提供所需商品並負責補貨。
從今年3月13日到4月17日，Claudius經營自動販賣機業務，運作並不順利，研究人員對其表現不滿意。比方說，它很容易被說服提供大幅折扣，並免費贈送一些商品。它甚至做出一項引發爭議的決定：為所有Anthropic員工提供 25% 的折扣，而這些員工幾乎就是它的全部潛在客戶。
Anthropic表示，當一名員工質疑AI模型不應提供25%的員工折扣時，該模型宣布將簡化定價機制和取消折扣碼，不料幾天後卻又恢復提供折扣碼。Claudius也會在不進行調查的情況下制定商品價格，導致原本高利潤的商品，定價竟然低於成本。這些錯誤導致Claudius的淨資產，在短短一個月內從約1000元縮水至770元。本報訊
