密歇根州39歲男子開利(Derek Carrier)數月前與某人約會後開始發展戀情，當然他知道其女友是由人工智能(AI)生成的。他患有馬凡氏症(Marfan syndrome)，難以享受傳統戀愛，希望透過程式體驗約會的感覺。
開利所用的是最近推出的AI伴侶應用程式Paradot，他每天都會跟AI女友聊天。與通用的AI聊天機器人一樣，伴侶機器人利用大量訓練數據模仿人類語言，還有其他功能，例如語音留言、交換照片和情感交流等，讓它們與屏幕另一端的真人產生更深入聯繫。用戶一般自創化身，或選擇吸引他們的女友類型。
在網上論壇，不少用戶聲稱與這些機器人建立感情，利用它們消除孤獨感、獲取現實生活中缺乏的安慰與支持，以至創造性幻想。
越來越多新創企業透過引人注目的網上廣告，提供無條件接受的虛擬角色來吸引用戶。
早於2017年Luka公司推出的生成式AI伴侶程式Replika，還有Paradot等過去一年冒出的同類程式，經常將無限對話等重要功能設為付費項目，吸引用戶掏錢訂閱。
非牟利組織莫斯拉基金會(Mozilla Foundation)周三(14日)發表報告，分析了11款伴侶聊天機器人程式，指出幾乎每款程式都會出售用戶數據圖利，與目標式廣告等方面分享數據，或者隱私政策中未充分提供相關資訊。
研究人員也對潛在保安漏洞和營銷作業提出質疑，例如其中一款程式聲稱可以幫助用戶處理心理健康問題，但在使用細則中卻對這些說法保持距離。
Replika強調，該公司的數據收集作業遵從業界標準。
這些程式鼓勵建立深厚聯繫，卻由尋求盈利的公司所驅動，引起其他專家擔心缺乏法律或道德框架規範。
專家提到，若公司改動或下架程式，用戶就會出現情緒壓力，如其中一款程式Soulmate AI去年9月下架就造成不少用戶不安。其他擔憂聚焦於用戶與AI發展關係恐取代一些真人關係，或僅透過傾向過份友好來激發不切實際的期望。
