為確保生成式人工智能(Generative AI)安全，州長紐森月前簽署行政命令，要求州部門研究AI技術。加州AI工作小組日前發表新報告，焦點落在AI技術的好處與風險。
AI工作小組料將發布多份報告，旨在為用途逐漸廣泛的生成式AI做好準備。21日發表的34頁報告就是其中之一。
生成式AI發展迅速。為了追上這種技術的發展，州府正嘗試設法讓州部門利用這種新技術改善政府服務和加州居民的生活。
紐森表示，州府正採取嚴謹細緻的方法，了解這種技術的風險，同時研究如何利用其優勢。
新報告概述了AI技術的機會和潛在傷害，包括擴大既存差異和偏見。
史丹福醫學院AI研究員達內什喬(Roxana Daneshjou)說︰「很多這種偏見被內建到這種科技之中，這是基於大量由人類創造成的數據所建立，我們需要思考事情如何影響弱勢群體。」
報告認為，這些數據或影響州府的決策。AI聊天機器人可提供不正確或不一致的訊息，讓別有用心的人散播假訊息或侵犯隱私。
達內什喬認為，未實際測試前，不能假設AI會令事情變得更好，「我不覺得這些模型準備任何類型決策，犯下這種錯誤在現實世界中將產生後果」。
州府報告指出，生成式AI確實產生安全和保安風險，需要保安管控、監察和驗證技術防範任何攻擊，但同時認為AI有改善民生的可能。
AI公司Veritone總經理Jon Gacek認為必須制定規則，也要確保AI模型不會出現偏見或受人類影響。
報告提到，追求生成式AI對州府的好處，包括以簡單易懂的語言概括政策、將重要文件翻譯到其他語言，以及與過時系統和電腦程式碼聯繫等，而且AI可提供互動式稅務援助或失業支援。
但報告強調，個人資料不應被加進ChatGPT等AI服務，AI產生的文字、音訊或影片亦不應一字不差地使用。
州府部門正收集意見，為州府使用生成式AI制定指引，料明年1月前完成。本報訊
