本報訊
人工智慧公司Character.AI將自下月起禁止未成年人與其AI聊天機器人對話，因外界對青少年使用此類技術的方式日益關注。
聯邦貿易委員會（FTC）於9月對AI聊天機器人展開調查，向Character.AI、OpenAI及其他多家大型科技公司索取資料。美聯社
《國會山報》（The Hill）報道，這家以多樣化AI角色聞名的公司表示，將於11月25日前移除18歲以下用戶進行「開放式對話」的功能，並在未來數週內逐步限制使用，初期規定青少年每日最多只能與AI對話兩小時。
Character.AI指出，正著手開發一項「未滿18歲體驗」計畫，讓青少年可與AI角色共同製作影片、故事與直播內容。
該公司在一篇部落格文章中表示：「我們針對未成年平台所作的改變，是因應AI與青少年之間不斷演變的環境。」文中強調，這項決策受到近期媒體報導與監管單位提問的影響。
近來，Character.AI及其他聊天機器人開發商因多起青少年自殺事件而受到審查。14歲少年前威爾塞策三世（Sewell Setzer III）的母親於去年11月控告Character.AI，指控該聊天機器人導致其子自殺。OpenAI也遭16歲少年亞當雷恩（Adam Raine）父母起訴，雷恩在與ChatGPT互動後輕生。兩個家庭上月在參議院小組作證，呼籲國會為聊天機器人設立安全防護機制。
聯邦貿易委員會（FTC）亦於9月對AI聊天機器人展開調查，向Character.AI、OpenAI及其他多家大型科技公司索取資料。
Character.AI週三表示：「在審視這些報告及來自監管機構、安全專家與家長的意見後，我們決定作出改變，為未成年社群建立新的使用體驗。」
該公司補充說：「這對我們而言是極具重大意義的舉措，在許多方面甚至比同業更為保守，但我們相信這是正確的決定。」
除限制兒童使用聊天機器人外，Character.AI還計劃推出新的年齡驗證技術，並設立及資助一個名為「AI安全實驗室」（AI Safety Lab）的非營利組織。
在各界對聊天機器人風險升高之際，兩黨參議員週二共同提出法案，擬禁止為兒童設計AI伴侶。提案議員包括共和黨籍的喬許霍利（Josh Hawley，密蘇里州）、凱蒂布里特（Katie Britt，阿拉巴馬州），以及民主黨籍的理查布盧門索（Richard Blumenthal，康乃狄克州）、馬克華納（Mark Warner，維珍尼亞州）和克里斯墨菲（Chris Murphy，康乃狄克州）。
該法案除要求AI聊天機器人必須反覆聲明「自己不是人類」外，還將開發或提供兒童色情性內容的AI產品定為刑事犯罪。
