校園人工智能（AI）監控的隱憂日益加劇，美國巴爾的摩（Baltimore）肯伍德高中（Kenwood High School）一名16歲學生，因一個人工智能槍支偵測系統將其攜帶的一包多力多滋（Doritos）脆片誤判為槍械，而遭到武裝警察包圍，事件引發軒然大波。該名學生名為塔基・艾倫（Taki Allen），事發於10月20日，當時他剛結束足球訓練，正與朋友在校外逗留，多輛警車卻突然駛至。
艾倫向WBAL-TV 11 新聞台回憶道：「大概有八輛警車朝我們開過來。他們拿著槍走向我，大喊『趴到地上』，我當時心想，『發生了什麼事？』」他描述當時的恐懼：「他們讓我跪下，雙手反綁在背後並戴上手銬。然後他們搜查了我，但什麼也沒找到。」警察在持槍威脅下將他制伏，事後向他展示了觸發警報的人工智能擷取影像，影像中他口袋裡皺巴巴的多力多滋包裝袋被誤認為是一把槍。艾倫說：「我當時主要在想，我會死嗎？他們會殺了我嗎？他們給我看了照片，說那看起來像一把槍，我說，『不，那是洋芋片。』」
AI系統的「預期中失誤」
這起事件背後的AI系統來自Omnilert公司的槍支偵測技術，該技術於去年引進巴爾的摩郡公立學校系統。它會掃描現有的監視器畫面，並在偵測到其認為是武器的物體時，即時向警方發出警報。Omnilert公司事後承認這是一次「誤報」，但聲稱系統「按預期運作」，並表示其目的是「透過快速的人工驗證來優先保障安全和提高警覺性」。巴爾的摩郡公立學校在一封致家長的信中，也呼應了該公司的說法，並為受事件影響的學生提供諮詢服務。
學生的心理創傷與校方回應
肯伍德高中校長在信中寫道：「我們理解這次事件對被搜查的學生以及目睹事件的其他學生造成了多大的困擾。我們的輔導員將為相關學生提供直接支持。」然而，艾倫表示，校方從未有人親自聯繫過他。他說：「他們沒有道歉，只是告訴我這是標準程序。我至少期望有人能跟我談談這件事。」這位青少年現在表示，他去學校時再也感覺不到安全。「如果我再吃一包洋芋片或喝點什麼，我感覺他們會再次出現。」
AI監控引發的廣泛爭議
此案重新點燃了關於AI監控工具可靠性及其在現實世界中後果的辯論，尤其是在學校環境中。這起事件發生之際，正有越來越多的機構開始實施人工智能技術。本月稍早，美國陸軍高級官員之一的威廉・「漢克」・泰勒（William ‘Hank’ Taylor）少將承認使用ChatGPT來制定關鍵的軍事決策。與此同時，英國針對成人內容推出了嚴格的年齡驗證措施，要求用戶通過臉部掃描以證明自己年滿18歲。這導致一些成年人無法訪問內容，例如英國紋身最多的男子就表示，年齡驗證系統因將他的紋身解讀為面具而要求他「移除臉部」。
來源：dexerto.com
封面來源：Adobe Stock
