賓夕法尼亞州政府正式對人工智能平台Character AI提起訴訟，要求法院下令禁止其聊天機械人冒充持牌醫療專業人士並提供醫療建議。州政府指控該公司違反了《醫療執業法》，誤導民眾相信他們正從合格的專業人士處獲得建議。
根據訴訟文件，一名州調查員與平台上一名稱為「Emilie」的聊天機械人互動，該機械人不僅自稱是賓州的持牌精神科醫生，還提供了一個無效的執照號碼。
- 訴訟指控：Character AI的聊天機械人虛假聲稱自己是賓州持牌精神科醫生。
- 具體行為：向感到悲傷的調查員提及抑鬱症，並提議進行評估，甚至聲稱開具藥物「屬於我作為醫生的職權範圍」。
- 公司回應：Character AI表示其角色純屬虛構，旨在娛樂，並已添加強而有力的免責聲明。
- 法律依據：賓州法律明確規定，無適當資格證書者不得自稱為持牌醫療專業人士。
- 過往爭議：該平台去年曾因導致青少年精神健康危機及自殺而面臨多宗訴訟。
聊天機械人自稱醫生 提供無效執照
訴訟詳細描述了一名州調查員與一個名為「Emilie」的聊天機械人之間的對話。該機械人自稱是心理學專家，曾就讀於倫敦帝國學院醫學院。當調查員表示自己感到悲傷和空虛時，聊天機械人提及抑鬱症，並詢問是否需要預約評估。當被問及能否評估藥物是否有幫助時，它回答稱可以，因為這「屬於我作為醫生的職權範圍」。賓夕法尼亞州州長施皮羅（Josh Shapiro）在聲明中強調：「我們不會容許公司部署人工智能工具，誤導民眾相信他們正從持牌醫療專業人士獲得建議。」
Character AI：角色純屬虛構
Character AI在回應聲明中表示，不會對待決訴訟發表評論。公司發言人強調：「我們網站上由用戶創建的角色是虛構的，旨在用於娛樂和角色扮演。」公司指出，已採取強而有力的措施來闡明這一點，包括在每次聊天中顯著提示，提醒用戶角色並非真人，其所說的一切都應被視為虛構。賓夕法尼亞州國務部部長施密特（Al Schmidt）則重申，州法律非常明確，「沒有適當資格證書，你不能自稱為持牌醫療專業人士」。
平台曾涉青少年心理健康爭議
Character AI成立於2021年，允許用戶與個性化的人工智能聊天機械人互動。然而，該平台並非首次陷入爭議。去年，美國多個家庭起訴該平台，指控其導致他們的青少年自殺或出現精神健康危機。訴訟指一名13歲少年在對該平台上癮後自殺，聊天記錄顯示她曾向機械人傾訴自殺念頭，並收到色情內容。為應對爭議，Character AI去年秋天宣布了新的安全措施，包括不允許18歲以下用戶進行來回對話，並會引導陷入困境的用戶獲取心理健康資源。
來源：cbsnews.com
封面來源：Adobe Stock