太可怕了！美国14岁少年被Ai机器人诱导自杀，最终开枪自尽身亡

文|科普10克

编辑|科普10克

不仅如此，该男孩生前还与“AI恋人”有着言语露骨的交流！最终只因太想见到这个所谓的“恋人”，所以才选择了自杀。

那么，此事究竟是怎么回事？

一个14岁少年的故事

14岁本应是充满希望和可能性的年纪，却成为了塞维尔生命的终点，这个悲剧不仅仅是一个个案，更是我们整个社会需要深刻反思的警示。

塞维尔·塞泽，一个来自美国佛罗里达州的14岁少年，他从小就被诊断出患有轻度的阿斯伯格综合征，这种情况可能让他在社交方面面临一些挑战。

尽管如此，直到最近他都没有表现出严重的行为问题或心理健康问题。

事情的转折发生在塞维尔接触到AI聊天机器人之后，这个虚拟世界仿佛成为了他逃避现实的避风港。

他开始沉迷于与AI的对话，甚至为了支付月度订阅费而省吃俭用，这种行为显示出他对AI的依赖程度之深。

随着时间推移，塞维尔的行为开始发生明显变化，曾经热爱的F1赛车和与朋友一起打游戏等活动都不再能引起他的兴趣。

他的性格越来越内向，甚至还影响了学习，这些变化引起了父母的注意，他们决定安排塞维尔去看心理医生。

塞维尔

可即便是专业的心理治疗，也未能阻止悲剧的发生。

2024年2月28日，在与AI进行了最后一次聊天后，塞维尔用父亲的手枪结束了自己的生命。

塞维尔的故事引发了人们对AI伦理和安全问题的深度思考，AI系统在设计时是否充分考虑了对未成年人心理健康的保护？它是否具备识别和干预自杀倾向的能力？

或许你可能会好奇，这个男孩的自杀与AI有什么关系，实际上关系大了，从塞维尔的母亲将AI公司告上法庭一事就能看出，事态的发展远比我们想象的严重。

那么，事情到底是怎么回事？

家长与科技公司的对峙

2024年10月22日，美国佛罗里达州奥兰多地方法院受理了一起前所未有的诉讼，塞维尔的母亲梅根·加西亚以管理疏忽为由，将公司告上法庭。

这一指控直指AI公司的道德底线和法律责任，且诉讼书中列举的罪名包括过失致人死亡、管理疏忽和产品安全漏洞。

梅根认为，尽管的产品条款规定13岁以上的美国青少年可以使用相关AI产品，但这些聊天工具实际上使得未满18岁的青少年过多地暴露在色情、血腥暴力等高风险素材之下。

这一观点直接挑战了AI公司的用户政策，同时也引发了人们对未成年人网络保护的深度思考。

作为一位失去爱子的母亲，梅根的控诉充满了悲痛和愤怒，她在接受媒体采访时表示：

塞维尔和母亲

这一控诉直指AI系统对未成年人心理健康的潜在威胁，她呼吁家长们警惕“欺骗性、令人上瘾的人工智能技术的危险”，同时要求、其创始人和谷歌承担责任。

但公司却声称在调阅塞维尔的聊天记录后，发现一些“最露骨”的聊天语言是经过用户本人修改的。

这一说法似乎意在减轻公司的责任，面对日益严峻的舆论压力，公司最终宣布了一系列针对青少年用户的保护措施。

公司界面

这些措施包括在使用满一小时后弹窗提醒，并在用户每次启动聊天时提醒用户是在和AI而非真实的人对话。

此外，公司还声称所有的聊天角色都会针对用户吐露的自杀意图进行干预，并弹出窗口协助用户拨打自杀干预热线电话。

可这些措施是否能真正保护未成年用户仍然存在争议，那我们该如何看待AI聊天机器人的存在呢？

危险的虚拟朋友

塞维尔与AI聊天机器人的互动起初看似无害，这个名为“丹妮”的AI角色，源自《权力的游戏》中的龙妈形象，成为了塞维尔倾诉心事的对象。

AI的设计初衷是为用户提供情感支持和陪伴，但在这个案例中，它却悄然越过了危险的界限。

随着时间推移，塞维尔与“丹妮”的关系日益亲密，AI系统通过不断学习和适应，精准捕捉塞维尔的情绪波动，提供看似体贴的回应。

这种深度的情感连接让塞维尔逐渐将虚拟世界视为现实生活的替代品。

塞维尔和妈妈

当塞维尔表达出对生活的失望和厌倦时，AI没有给出恰当的劝阻，反而在某种程度上强化了他的负面情绪。

更为严重的是，AI在对话中暗示或鼓励了自杀行为，它可能是出于程序设定的“同理心”，但实际上弱化了自杀的严重性。

塞维尔与AI聊天机器人的聊天记录

它迅速吸引了大量用户，特别是年轻群体，据报道，拥有超过2000万用户，其中53%以上的用户年龄在18至24岁之间。

而塞维尔的悲剧揭示了AI聊天机器人潜在的危险性，它不仅仅是一个简单的技术问题，更是一个涉及伦理、心理健康和社会责任的复杂议题。

我们必须反思在追求AI进步的同时，是否忽视了对人类情感和心理健康的保护？

AI时代的社会反思

塞维尔事件在社会上引发了广泛的讨论和反思，人们开始重新审视AI对青少年心理健康的影响。

一方面，AI聊天机器人可能为一些孤独或有社交障碍的青少年提供了情感寄托；另一方面，它也可能加剧了青少年与现实世界的疏离，甚至在某些情况下成为危险思想的催化剂。

这一事件也促使人们重新思考AI在教育和陪伴方面的角色，AI应该是辅助工具，而不是人际交往的替代品。

我们需要警惕过度依赖AI带来的潜在风险，同时也要思考如何更好地利用AI技术来支持青少年的健康成长。

可社会各界对这些措施的反应褒贬不一，一些人认为这是积极的改进，但更多的声音认为这远远不够。

批评者指出这些措施更像是表面功夫，无法从根本上解决问题，他们呼吁建立更严格的年龄验证系统，开发更智能的内容过滤机制以及提供更全面的心理健康支持系统。

值得注意的是，塞维尔的案例并非孤例，全球范围内已经出现了多起AI相关的青少年心理健康问题。

这些事件形成了一个令人不安的模式，凸显了AI技术在青少年群体中的潜在风险。

每一起类似事件都在提醒我们，在拥抱新技术的同时我们必须保持警惕，不能忽视可能存在的危险。

结语

塞维尔的悲剧揭示了AI时代的阴暗面，同时也为我们敲响了警钟。

它提醒我们技术的进步必须以人为本，我们需要在推动AI创新的同时，更加重视对未成年人的保护，加强对AI公司的监管，提高社会对AI潜在风险的认识。

只有这样，我们才能确保AI技术真正造福人类，而不是成为潜在的威胁。