加州議會兩院本周先後通過SB243法案，將規範人工智能（AI）陪伴聊天機器人以保護未成年人和弱勢用戶，目前送交州長紐森簽署。儘管法案獲兩黨支持，但由於法案通過前內容大幅縮水，有原本支持法案的組織不再支持，批評「比沒作為還要糟」。
綜合《沙加緬度蜂報》和科技新聞網站TechCrunch報道，紐森需於10月12日前決定簽署或否決法案。若他簽署，法案將於2026年1月1日起生效，使加州成為全國規範AI聊天機器人的首州。
法案要求AI公司為AI陪伴聊天機器人制定安全措施，若聊天機器人未符合標準，相關公司恐得負起法律責任。
SB243尤其旨在防止陪伴聊天機器人參與敏感話題，例如自殺想法、自殘或性內容。
法案又要求定時提供用戶警告，例如每三小時向未成年人發出警告一次，提醒他們正與AI說話而非真人。法案規定OpenAI等AI陪伴聊天機器人公司每年報告相關情況，這部份將於2027年7月1日生效。
如果民眾認為因相關違規而受傷，法案容許他們向AI公司提告索賠（每項違規最高1,000元）和律師費。
SB243今年1月由民主黨州參議員帕迪拉（Steve Padilla）和貝克（Josh Becker）提出。在加州少年雷恩（Adam Raine）長期與AI聊天機器人聊天催生自殺念頭而最終自戕後，法案獲得廣泛迴響。
不過法案通過前經過大幅修訂，刪除不少原有條文，例如原本要求科技公司在其平台上提示AI聊天機器人未必適合未成年人等，又縮減通知和報告規定，對電子遊戲和智能揚聲器做出豁免，並刪除第三方監督，引發反彈。本報訊
