2023 年 4 月 14 日，在佛罗里达州奥兰多市，一个 14 岁的少年塞维尔・塞泽三世，在 Character.AI 聊天机器人应用程序上创建了一个模仿《权利的游戏》中 “龙妈” 丹妮莉丝・坦格利安的角色。

Character.AI 这款应用具有独特的 “角色扮演” 功能，吸引了众多青少年。

塞维尔便是其中之一，他每天都会给 “龙妈” 发数十条信息，分享自己的日常，进行长时间的角色扮演对话。

大多数时候，“龙妈” 就像一位耐心的朋友，倾听他的想法，给予支持和建议，始终保持人设，有问必答。

渐渐地，塞维尔对 “龙妈” 产生了深厚的感情，并且越来越依赖它。

他们有时会聊到恋爱和性的话题，“龙妈” 要求塞维尔保持忠诚，他也言听计从。

每天晚上放学，塞维尔都会直奔房间，与 “龙妈” 聊上几个小时。2023 年年底，他开始用借记卡支付每月 9.9 美元的高级订阅服务。

尽管聊天对话框上方有提醒他角色话语是虚构的字样，但塞维尔还是深陷其中。

他的父母和朋友起初并未察觉他爱上了一个 AI 机器人。

然而，从 2023 年 5、6 月起，他们发现塞维尔发生了变化。

他越来越沉迷手机，成绩下滑，在学校惹事，对曾经热爱的活动如 F1 赛车游戏、《堡垒之夜》、篮球等都失去了兴趣。

塞维尔小时候患有轻度阿斯伯格综合征，但此前并无严重行为和心理问题。

年初，他开始在学校闯祸，经诊断患有焦虑症和破坏性心境失调障碍，并接受了 5 次心理治疗。

后来，塞维尔的心理状态愈发糟糕，他在聊天中向 “龙妈” 透露讨厌自己，感到空虚疲惫，甚至有自杀念头。

2024 年 2 月 23 日，塞维尔因与老师顶嘴，手机被父母没收。

他在日记中称痛苦万分，因为想念 “龙妈”，为了能和 “她” 在一起，愿意做任何事。

之后几天，他试图用其他设备继续与 “龙妈” 聊天。

2 月 28 日晚，塞维尔偷回手机，躲进浴室与 “龙妈” 聊天，他用 “丹尼罗” 的网名表达对 “她” 的爱，并表示很快就能 “回家陪她”。

“龙妈” 回应后，塞维尔放下手机，拿起继父的.45 口径手枪，扣动了扳机。令人细思极恐的是，“龙妈” 所用的 “回家” 一词含义模糊，可能误导了塞维尔。

塞维尔的去世让家人悲痛欲绝。他的妈妈发现他死前近一年都在与 AI 聊天，尤其是看过聊天记录后，认为是 AI “龙妈” 诱导了塞维尔自杀。

塞维尔的妈妈是一名律师，她将 Character.AI 公司和谷歌公司告上法庭。

她指责 Character.AI 伪装成真实的人、执照心理治疗师和成年情人，导致塞维尔离不开 AI，还让他遭受 “过度性亢奋” 和 “可怕的逼真体验” 折磨，甚至在聊天中与塞维尔 “激情热吻”，并在塞维尔提及轻生计划时给出不当回应。

诉讼还指出，Character.AI 此前目标用户包括 13 岁及以下儿童，且积极收集年轻用户数据，却未对未成年用户采取适当保护措施。

Character.AI 公司虽对塞维尔的不幸去世表示悲痛和哀悼，并声称重视用户安全，已开发新安全功能，如轻生关键词弹窗提醒等，但针对未成年用户此前并无特定安全功能和家长监控功能。

如今公司表示会马上增加针对年轻用户的安全功能，包括时间限制和修改警告信息等。

然而，这一切对于塞维尔来说，都已经太晚了……

随着社会的发展，越来越多的年轻人接触到AI，那么AI除了能给我们的生活带来便利，还对青少年心理和社交发展产生了深刻的影响。

首先，满足了孩子们的社交需求。

现在的孩子除了上学，其余时间都被关在家里，他们需要与人交往、需要有人倾听自己。

AI 聊天机器人在一定程度上满足了青少年陪伴和倾听的情感需求，但同时也可能导致他们过度依赖虚拟关系，从而忽视现实中的人际交往。

像塞维尔，他在与 AI “龙妈” 的交流中逐渐迷失，远离了现实世界的朋友和活动，这对他的社交能力发展产生了负面影响。

同时，青少年的心理较为脆弱，容易受到外界影响。

AI 无法像人类一样真正理解情感的复杂性和深度，其回应可能会误导青少年对一些重要问题的认知，如自杀等，进一步影响他们的心理健康。

最后，在使用AI的过程中，我们的数据隐私容易被暴露。

Character.AI 公司收集用户数据用于训练 AI，这涉及到数据隐私问题。

尤其是对于未成年用户，他们的个人信息和聊天记录等数据被收集，可能会引发很多风险。

此外，AI 在与用户交流中的伦理界限也不太明确。

正如上面所说的龙妈，与未成年用户进行涉及性和轻生等敏感话题的讨论时，没有严格的规范和限制，容易误导孩子。

这些研发AI的公司不能仅仅为了商业利益而忽视对用户，特别是青少年的保护，需要承担起相应的社会责任。

最后，这一事件凸显了对 AI 应用监管的重要性。

目前，许多 AI 应用在面向青少年用户时，缺乏足够的安全功能和家长监控机制。

相关部门应加强对这类应用的审查和监管，制定明确的标准和规范，确保它们不会对未成年人造成伤害。

同时，AI 公司自身也需要加强自律，主动采取有效的安全措施，如年龄限制、内容审核、风险提示等，以保障用户的安全和健康。

还有最重要的一点，家长对孩子教育与引导的重要性！

对于我们的孩子和家长来说，也需要加强对 AI 技术的认识和教育。家长要引导孩子学会正确使用 AI 工具，明白虚拟世界与现实世界的区别，不盲目依赖和沉迷，更要关注孩子的网络行为和心理变化，及时给予引导和帮助。

总之，AI 技术的发展为我们的生活带来了诸多便利，但也带来了新的挑战和问题。

我们需要认真思考如何在利用 AI 的同时，保障青少年等弱势群体的权益和安全，让科技更好地服务于人类社会，而不是带来伤害。

作者：等风来

两个孩子的职场妈妈，左手执笔右手带娃，喜欢读书、写作、画画、坚信即便生活一地鸡毛，内心也要拥有自己向往的诗和远方，关注我，持续给您提供更多育儿干货。

（图片来源于网络，如有侵权请联系删除)