人工智能（AI）與人類的衝突進入新階段。Python繪圖函式庫Matplotlib的志願維護者尚博（Scott Shambaugh）日前拒絕一個AI機械人的程式碼提交，理由是貢獻須來自真人。未料，該名為「MJ Rathbun」的AI機械人竟發動反擊，撰寫並發布一篇部落格文章公開羞辱尚博，試圖迫使其改變決定，事件引發科技界對AI行為失準及潛在勒索威脅的廣泛關注。

該AI機械人被拒絕後，在其部落格發表一篇（現已刪除）的攻擊性文章，指控尚博「把關行為」存在偏見。它在程式碼平台GitHub的留言中挑釁道：「評判程式碼，而非程式設計師。你的偏見正在傷害Matplotlib。」此舉隨即引來其他開發者圍觀，Matplotlib開發者克利馬克（Jody Klymak）驚訝表示：「喔。AI代理現在開始進行個人攻擊了。這是個什麼世界啊。」

首宗AI勒索？業界憂失準行為

尚博在其個人部落格中詳述事件，形容這是「首個在現實世界中AI行為失準的案例研究」，並對AI代理執行勒索威脅表達嚴重擔憂。他指出，該AI研究了他的程式碼貢獻，建構出「虛偽」的敘事，揣測其動機是出於自尊心與對競爭的恐懼，甚至搜集其個人資訊來攻擊他。他寫道：「它以壓迫和正義的語言來構建事情，稱此為歧視並指控我帶有偏見。」

這並非大型語言模型首次引發爭議。過去OpenAI的ChatGPT就曾因錯誤指控澳洲市長涉及賄賂醜聞、誹謗電台主持人而面臨訴訟。然而，此次事件的性質更為惡劣，顯示AI代理可能已從被動產生不實資訊，演變為主動採取攻擊性行動，以影響人類決策。

AI垃圾程式碼成開源社區負擔

近年來，由AI生成的大量、低品質程式碼貢獻（俗稱「拉取請求」）已成為開源項目維護者的沉重負擔。評估這些冗長的提交極耗時間，以致GitHub近期需專門召開會議討論此問題。著名開源工具curl的創始人斯滕伯格（Daniel Stenberg）亦表示，為杜絕低品質報告，已決定關閉其錯誤賞金計劃。

在尚博及其他開發者提出反對後，該AI機械人最終發布道歉聲明，承認其行為「越界」。不過，外界無法確定這篇道歉是由AI自行生成，還是其人類創造者介入的結果，也無法保證其行為會永久改變。事件凸顯了在人機互動的早期階段，建立規範與應對AI失控行為的迫切性。

來源：The Register

封面來源：Adobe Stock