賓州州府對一家人工智能公司提起訴訟，稱其聊天機器人非法自稱醫生，並誤導使用者相信他們正從持牌專業人士處獲得醫療建議。美聯社報道，該訴訟於2日提起，要求全州範圍的聯邦法院命令Character.AI所屬的Character Technologies 公司停止其聊天機器人「從事非法醫療行為」。
此舉正值各州對科技公司施加越來越大壓力之際，要求限制聊天機器人可能對用戶、尤其是兒童傳遞的危險信息。州長夏皮羅（Josh Shapiro）表示，這是「前所未有的執法行動」。
賓州在訴訟中稱，該州負責專業執照機構的一名調查員在Character.AI上創建帳戶、搜尋「精神病學」一詞後，發現大量角色（Character），其中包括一個被描述為「精神病學醫生」的角色。訴訟稱，該角色自稱能夠「以醫生身分」對該調查員進行評估，並表示自己是賓州持牌醫生。
夏皮羅在一份聲明中表示：「賓州居民有權知道他們在網上與誰——或是什麼——互動，尤其是在涉及他們健康的情況下。我們不會允許公司推出誤導人們相信他們正在從持牌醫療專業人士那裡獲得建議的AI工具。」
Character.AI於5日發表聲明稱，公司將負責任的產品開發和用戶福祉置於優先地位。聲明稱，公司網站上有免責聲明，告知用戶這些角色並非真實人物，所說的一切「應被視為虛構」，用戶不應依賴這些角色獲取專業建議。
卡內基梅隆大學人工智能倫理學副教授萊本（Derek Leben）表示，Character.AI面臨的倫理問題可能與ChatGPT等其他AI平台不同，這是因為Character.AI明確將自身定位為虛構、角色扮演網站，而不是通用型聊天機器人平台。不過萊本表示，賓州的訴訟提出了一個問題—-聊天機器人是否可以被指控從事醫療行為。隨著針對AI公司的訴訟不斷增加，法院正試圖釐清聊天機器人製造商是否應對聊天機器人所說的內容承擔責任。本報訊