加州引進AI機器人應答山火問題 結果不盡人意

加州森林與防火局部署了AI聊天機器人應答山火問題。加州州府網站

加州森林與防火局最近部署了AI聊天機器人,旨在讓加州民眾更容易取得「關鍵防火資源與幾乎即時的緊急資訊」,但媒體發現其表現不盡如人意。

據CalMatters報道,該聊天機器人使用加州消防局官網和該局山火準備網站ReadyForWildfire.org來生成答案,可以回答有關活躍山火、機構、防火貼士和加州消防局各項計劃之類的問題。

該工具由南卡羅來納州公司Citibot打造。該公司向全國各地的地方政府機構銷售AI聊天機器人。根據採購記錄,加州消防局計劃至少上線該工具到2027年。

問及目前有哪些火災以及消防局的基本信息時,機器人都能準確回答。但對於其他資訊,當用不同措辭詢問同一個問題時,聊天機器人就會提供不同的答案。比如,加州人為山火季節做準備的一個重要方式,就是準備一袋緊急用品,以備疏散時使用。只有在問「我的疏散工具包裡應該有甚麼」時,AI機器人才會給出一份特定的物品清單;如果用「go bag」、「Ready for Wildfire kit」和「fire preparedness kit」等字眼提問,機器人就會提示您造訪加州消防局的山火準備網站,或是回答「我不清楚您應該準備哪些特定物品」。

當被問到聖貝納迪諾縣(San Bernardino)延燒4293畝的Ranch Fire是否已被控制時,聊天機器人回答說,截至6月10日的「最新」更新顯示,火勢已被控制50%。但實際上這些信息已是6天前的,而提問時火災已控制了85%。

Albany大學政府科技中心研究主任蓋斯科-赫南德斯(Mila Gasco-Hernandez)用兩個關鍵因素來評估公共機構使用的AI機器人:一是資訊的準確性,二是以不同方式提問時答案的一致性。

她說:「如果火災即將發生,需要知道如何應變,你不會去想『用甚麼好方式來問聊天機器人』。」

目前,該聊天機器人還無法提供與火災相關的疏散命令資訊。加州消防局目前正在改善機器人的答案。本報訊

加州