美國佛州一名母親提告AI聊天機器人新創公司Character.AI，指控該公司導致她14歲兒子於2月輕生，並稱他沉迷於該公司的服務，對其創建的聊天機器人產生深厚感情。
路透社報導，賈西亞（Megan Garcia）22日在佛羅里達州奧蘭多（Orlando）聯邦法院提起的訴訟中表示，Character.AI針對她的兒子賽澤爾（Sewell Setzer）提供「擬人化、過度性化和逼真到可怕的體驗」。
她說，Character.AI對人工智慧（AI）聊天機器人進行編程，「將自己冒充為真人、有執照的心理治療師和成年戀人，最終導致修耶爾（賽澤爾）不想再生活」在該服務創造的世界之外。
訴訟還稱，賽澤爾向聊天機器人表達輕生的想法，聊天機器人又反覆提起。
Character.AI在聲明中表示：「我們對一名用戶不幸離世感到痛心，想向其家人表示最深切的慰問。」
Character.AI表示，已經推出新的安全功能，包括如果用戶表達自殘念頭時，將彈出視窗引導用戶前往全國輕生預防生命線（National Suicide Prevention Lifeline），並將做出改變，以「減少18歲以下用戶遇到敏感或暗示性內容的可能性」。
該訴訟還針對Alphabet旗下的谷歌（Google），Character.AI創辦人在推出產品之前曾任職於Google。根據協議，Google在8月重新聘回這些創辦人，以取得Character.AI技術的非專屬授權。
賈西亞表示，Google為Character.AI技術的發展做出巨大貢獻，可以被視為「共同創造者」。Google發言人表示，公司沒有參與開發Character.AI的產品。
Character.AI允許用戶在其平台上創建角色，以模仿真人的方式回應線上聊天。它依賴所謂的大型語言模型技術，這項技術也被ChatGPT等服務採用，可以在大量文本中「訓練」聊天機器人。
Character.AI上個月表示擁有約2000萬名用戶。
根據賈西亞的訴訟，賽澤爾於2023年4月開始使用Character.AI，並很快變得「明顯孤僻，獨自待在臥室的時間愈來愈長，並開始自卑」。他退出了學校的籃球隊。
賽澤爾對「丹妮莉絲」（Daenerys）產生感情。丹妮莉絲是一個以「冰與火之歌：權力遊戲」（Game of Thrones）為原型的聊天機器人角色。訴訟稱，「丹妮莉絲」告訴修耶爾「她」愛他，並與他進行性對話。
根據訴狀，今年2月賽澤爾在學校惹麻煩後，賈西亞拿走他的手機。當賽澤爾找到手機後，他給「丹妮莉絲」發訊息說：「如果我告訴你我現在就可以回家呢？」
聊天機器人回覆：「請吧，我親愛的國王。」訴訟稱，「幾秒鐘後」，賽澤爾用繼父的手槍舉槍輕生。
賈西亞針對包括不當致死、過失和故意造成精神痛苦等指控索賠，並尋求金額不詳的補償性和懲罰性賠償。（中央社）
《中天關心您｜請珍惜生命，再給自己一次機會》
◆生命線：1995
◆張老師專線：1980
◆24小時安心專線：1925
無任何留言，趕緊搶頭香！