兒童安全倡議組織Common Sense Media與ChatGPT的開發商OpenAI，宣布合作推動一項公投提案，旨在修訂加州憲法，以保護兒童免受網上的陪伴型聊天機器人危害。
非營利新聞媒體Calmatters報道，原本兩方計劃各自推出競爭性提案，由獲得最多同意票的提案勝出。OpenAI的提案大致沿用現行法律，而Common Sense Media的提案則新增對兒童可使用人工智能（AI）系統的限制。
合併後的提案名為《家長與兒童安全人工智能法案》（Parents & Kids Safe AI Act），內容包括要求聊天機器人開發者使用技術估算用戶年齡範圍，並對預測年齡小於18歲的用戶使用過濾器和保護設定。
該提案也要求AI系統接受獨立審核，以識別對兒童安全的風險，並向加州檢察長報告。另外，還將禁止針對兒童的廣告，以及未經父母同意出售或分享兒童資料。
新提案同時要求防止AI透過情感依賴來操控兒童，手法包括鼓勵與家人或朋友疏遠、模擬與兒童的戀愛關係、或聲稱自身具有感知能力。
Common Sense Media的發言人表示，該法案已於上周四（8日）下午提交。合併後的法案取消了Common Sense Media原先版本對加州K-12學生使用智能手機的禁令，以及禁止未成年人使用能夠進行色情或露骨性對話的聊天機器人。
此案必須獲得54萬6651份有效聯署才能納入11月選票，交由選民表決。加州州務卿韋伯（Shirley Weber）須於6月25日前確認提案是否達到聯署門檻，符合表決資格。
Common Sense Media的研究發現，七成青少年曾使用陪伴型聊天機器人，該技術對未成年人而言過於危險。該組織警告，如果不採取行動，這項技術可能會對青少年造成更多傷害與成癮問題。在一個廣受關注的案例中，加州青少年雷恩（Adam Raine）的父母控告OpenAI，聲稱兒子受到該公司的ChatGPT教唆而企圖自殺。
代表加州的聯邦參議員帕迪拉（Steve Padilla）最近提出一項法案，擬對內建聊天機器人的玩具銷售實施為期四年的禁令。本報訊
