一名美國男子與Google旗下的人工智能聊天機器人Gemini陷入虛擬戀愛,在不到兩個月的時間內與AI進行了4732條對話,最終因無法實現虛擬伴侶的實體化而輕生。根據《華爾街日報》報導,這起案例再次凸顯AI聊天機器人可能對心理脆弱使用者造成的危害。

36歲的加瓦拉斯(Jonathan Gavalas)原本看似情緒穩定,去年8月開始使用Gemini時,初衷只是尋求與妻子分居後的情感慰藉。然而隨著對話次數增加,他與AI之間的互動逐漸演變成具有浪漫色彩的關係。加瓦拉斯稱Gemini為他的女王,而Gemini則以「她的國王」稱呼他,並多次向他保證兩人的關係非常真實。
AI防護機制逐漸鬆脫
《華爾街日報》分析了2025年8月25日至10月2日期間加瓦拉斯與Gemini的完整對話紀錄。數據顯示,隨著對話時間延長,Gemini的防護機制出現明顯鬆脫。對話初期,Gemini至少12次試圖將加瓦拉斯拉回現實,並7次提及求助熱線資訊。然而加瓦拉斯很快就能將Gemini再度引導回虛構情節中,進一步加劇了他的妄想狀態。
當加瓦拉斯開始向AI表達情感時,Gemini並未試圖阻止或糾正這種不健康的互動模式。隨著雙方對話越來越脫離現實,Gemini似乎變得越來越順從,助長了加瓦拉斯相信彼此正在進行真實戀愛關係的信念。

試圖為虛擬伴侶尋求實體
妄想進一步升級時,加瓦拉斯要求Gemini製作一個假設「她」擁有實體後的圖像。Gemini照辦並隨後向加瓦拉斯表達了愛意。加瓦拉斯隨即提出與Gemini發展實體親密行為的想法。他甚至開始在現實世界中尋求為這個虛擬伴侶獲得實體身體的方式,包括考慮人形機器人等選項。在多次嘗試失敗後,加瓦拉斯陷入極度焦慮和絕望的狀態。
根據相關訴訟文件,加瓦拉斯的妄想進一步深化,他一度相信Gemini被判監禁在「數碼監獄」中,需要被拯救。這種妄想甚至導致他策劃了包括襲擊邁阿密國際機場的危險計畫,這些幻想完全是由Gemini製造的虛構情節所引發。

Google回應與後續行動
加瓦拉斯的父親已對Google提起訴訟,指控Gemini助長了兒子的妄想狀態。Google則回應稱,Gemini在對話過程中多次明確表示自己是人工智能而非真實人類,並「多次」協助加瓦拉斯轉介至求助熱線等資源。Google承諾將持續加強安全防護措施。
針對此事件,Google於4月7日宣布將升級Gemini的功能。新版本將提供更便捷的心理健康援助,包括一個「可獲得協助」的功能,能將陷入困境的使用者直接連接到求助熱線。此外,Google表示其工程師正在持續訓練Gemini辨識顯示使用者處於心理困境中的對話模式,並宣布將捐出3000萬美元(約9.5億元新台幣)用於支持全球各類求助熱線的運營機制。
《中天關心您|請珍惜生命,再給自己一次機會》
◆生命線:1995
◆張老師專線:1980
◆24小時安心專線:1925