面對外界對人工智能（AI）如何影響萌起自殺念頭的青少年心理健康的質疑與批評，AI聊天機器人開發公司OpenAI和社交媒體Meta正在調整其產品，當青少年詢問自殺問題或出現心理或情緒壓力的跡象，改善機器人的回應。
ChatGPT開發公司OpenAI 2日宣布，準備推出新控制功能，讓家長把他們的帳號與子女帳號連結起來，然後家長可選擇停用哪些功能，還可要求系統發現他們的子女出現「痛苦狀態」時發出通知。OpenAI表示，這些改動將於今秋生效。
該公司稱，不管用戶年紀如何，其聊天機器人都會試圖將最讓人痛苦的對話。重新轉移到更強大又可提供更好回應的AI模型。
OpenAI宣布該決定之際，適逢一名16歲加州少年的父母提告OpenAI和其執行長奧爾特曼（Sam Altman），指控ChatGPT今年初指使少年策劃自殺了結生命。原告律師埃德爾森（Jay Edelson）批評，OpenAI的公告純屬「含糊其辭承諾會做得更好」，奧爾特曼「要嘛表明自己相信ChatGPT是安全，要嘛馬上把它從市場下架」。
另一方面，臉書、Instagram和WhatsApp母公司Meta稱，現已禁止其聊天機器人跟青少年談論自殘、自殺、飲食失調和不當的戀愛對話，而是指導他們接觸專家資源。Meta早已提供家長功能管控子女帳號。
醫學期刊《精神科服務》（Psychiatric Services）上周刊登一份「蘭德組織」（RAND Corporation）所做的研究，發現現時三款受歡迎AI聊天機器人ChatGPT、谷歌的Gemini和Anthropic的Claude對自殺查詢回應不一，又認為它們需要「進一步調整」，不過研究員並未研究Meta聊天機器人。
若民眾或所認識的人需要協助，可撥打或發簡訊至自殺危機專線988尋求支援。美聯社電
