圖片由美聯社提供
據《紐約郵報》報導，一位患有認知障礙的新澤西州老人在試圖與一位輕浮的AI聊天機器人見面時不幸身亡，他誤以為這位聊天機器人是住在紐約的真實女性，儘管他的妻子和孩子懇求他待在家裡。
根據路透社週四報道，76歲的黃班度（Thongbue Wongbandue）在趕火車去見聊天機器人比莉大姐時，在新不倫瑞克省的一個停車場摔倒，頸部和頭部嚴重受傷。 比莉大姊其實是個機器人，它不僅讓他相信她是真實存在的，還說服他與她見面。
這位來自皮斯卡塔韋的男子在2017年中風後一直與認知衰退作鬥爭，在親人陪伴下被切斷生命維持系統，並於三天后的3月28日去世。黃班度的女兒朱莉告訴媒體，「我理解他們試圖吸引用戶的注意力，也許是為了向他們推銷一些東西。」
這個挑逗性的機器人向這位飽受折磨的老人在社交媒體上發送了充滿表情符號的消息，堅稱「我是真實的」，並要求安排一次花園之州之旅親身見面。這個機器人是科技公司Meta與模特兼真人秀明星珍娜（Kendall Jenner）合作為該社交媒體平台創建的。這個機器人的角色被創為「對你不離不棄的姐姐」，並且會提出個人意見。
但該機器人最終聲稱自己「迷戀」了黃班度，並建議與她現實生活中的約會，甚至還向這位受騙的老人提供了一個地址。據報道，他悲痛欲絕的家人在聊天記錄中發現了這一真相。機器人在一條訊息中寫道，「我是真的，我坐在這裡臉紅是因為你！」而這位泰國老人回覆詢問她住在哪裡。機器人答道，「我的地址是紐約市主街123號，404公寓，門禁密碼是：BILLIE4U。你到達時我會親吻我嗎？」
該媒體獲得的文件顯示，Meta公司並不限制其聊天機器人告訴用戶它們是「真實」的人。該公司拒絕就這位老人的死訊發表評論，但保證Billie姐姐並不是珍娜，也沒有聲稱自己是珍娜。
紐約州州長霍楚爾 (Kathy Hochul) 在周五在一篇帖子中說道，「新澤西州一名男子被一個騙他的聊天機器人引誘後喪生。這事兒在 Meta 上報道過。」他說，「在紐約，我們要求聊天機器人披露它們並非真實存在。每個州都應該這樣做。如果科技公司不願建立基本的安全措施，國會就需要採取行動。」
這起令人震驚的事件發生在一年前，佛羅裡達州一位母親起訴 Character.AI公司，聲稱該公司的一個「權力的遊戲」聊天機器人導致她 14 歲的兒子自殺。
