聊天機械人問題多 網站發禁令免出錯

程式設計領域問答網站Stack Overflow突然宣佈,禁止用戶分享人工智能(AI)聊天機械人ChatGPT產生的回應。網站板主強調禁令屬臨時性質,在諮詢社群意見後將於未來一些時間作出最終決定。

科技新聞網站The Verge報道,正如板主解釋,ChatGPT使用戶太容易產生回應,用大量驟看之下以為是正確,但細心檢查卻發現出錯的答案充斥該網站。

根據板主說法,主要問題是「ChatGPT提供的答案很大程度是錯誤的,雖然一般看來像是不錯」,因此站方「需要減少這類帖文數量,目前不容許利用ChatGPT在Stack Overflow發文」。板主警告,如果有理由相信用戶在臨時禁令發出後仍用ChatGPT發文,即使帖文可被接受,但仍會對對方作出停板處分。

ChatGPT是AI研究公司OpenAI開發的實驗性聊天機械人,依據它的自動完成文字生成器GPT-3.5所開發。該機械人的網頁示範品上周發佈,自此吸引全球各地的愛好者使用。機械人的介面鼓勵人們發問問題,然後在一系列查詢中提供令人印象深刻且流暢的結果,例如生成詩詞、歌曲和電視台詞,或回答瑣事問題,或編寫和為編碼糾錯。

不少用戶對ChatGPT的能力印象深刻,但其他人則提到它持續作出似是而非的錯誤回應。例如請機械人撰寫一位公眾人物的傳記時,它可能完全充滿自信地加入有錯誤的傳記資料。又或者請它解釋如何為一種特定功能編寫軟體,它同樣可以產生以為可信,但最終錯誤的編碼。本報訊

科技-三藩市版