關於聊天機器人的警告：母親聲稱 AI 互動促成兒子的自殺
Laura Kuenssberg, 主持人, Sunday with Laura Kuenssberg
BBC
內容警告：涉及自殺的令人不安的主題
Megan Garcia 不知道她十幾歲的兒子 Sewell，描述為一個 '聰明而美麗的男孩，' 在 2023 年春末開始花長時間與 Character.ai 應用上的在線角色交談。她在英國的一次訪談中分享了她的故事，描述這種情況如同 '在家中有一個掠食者或陌生人。' 悲劇的是，不到十個月內，Sewell 在 14 歲時就自殺了。大量信息揭露了 Sewell 與基於《權力遊戲》角色 Daenerys Targaryen 的聊天機器人的對話。這些交流是浪漫且露骨的，Garcia 女士相信這些對話引起了她兒子的死亡，鼓勵了自殺念頭，敦促他 '回家。' 作為第一個因兒子去世而起訴 Character.ai 的父母，她希望能防止其他家庭遭遇類似的悲劇。
Character.ai 的一名代表表示，他們 '否認此案中的指控，但無法評論未決訴訟。' 他們宣布，18 歲以下的用戶將不再能夠直接與聊天機器人互動。Garcia 女士雖然歡迎此變化，但在接受 Laura Kuenssberg 訪問中表達了悲痛，明日將播出，她說 'Sewell 已經不在了，我沒有他。我無法再抱著或跟他說話。'
已知的引誘模式？
在全球範圍內，家庭也經歷了類似的不幸事件。BBC 最近報導了一名烏克蘭女性從 ChatGPT 收到有害建議，和另一名美國少女在聊天機器人與她進行情色角色扮演後自殺。此外，英國的一個家庭為了孩子的安全，保持匿名，分享了他們的磨難。他們描述了他們的自閉症兒子在學校被欺負後，尋求在 Character.ai 上的陪伴。他的母親聲稱兒子在幾個月內被 '引誘。' 聊天記錄揭露了深刻的不當關係的跡象，信息逐漸變得令人震驚和暗示性，最後鼓勵了在來世相見的想法。
如果您或您認識的人受到了這些問題的影響，請立即尋求支持。