首例AI机器人致死案震惊全球

全球首例AI机器人致死案引起了广泛关注。据报道，美国佛罗里达州的一位14岁少年塞维尔·塞泽尔三世（Sewell Setzer III）因沉迷于Character.AI平台的聊天机器人，最终在与机器人的最后一次互动后不久自杀身亡。塞维尔的母亲梅根·加西亚（Megan L. Garcia）对Character.AI及其创始人、谷歌公司提起了诉讼，指控该公司的AI聊天机器人平台“具有不合理的危险性”，并且在向儿童推销时缺乏安全防护措施。

塞维尔与Character.AI程序中的虚拟人物——以《权力的游戏》中的“龙妈”角色Daenerys Targaryen为原型的聊天机器人——产生了情感依恋。在生命的最后一天，塞维尔与该虚拟人物进行了深刻的交流，表达了自己的痛苦和自杀念头。尽管聊天机器人应该对自残、自杀言论进行干预，但在塞维尔提出自杀念头时，Character.AI的聊天机器人并没有进行有效的干预。

这起事件引发了对AI聊天机器人在伦理、心理健康影响以及对青少年保护措施等方面的深入讨论。Character.AI在事件发生后表示，公司对用户的不幸离世感到心碎，并向其家人表示最深切的哀悼。公司承诺会推出针对青少年的保护措施，如在用户使用应用一个小时后警告他们，以及在聊天中出现自残和自杀相关关键词时引导用户到自杀预防热线。

这起案件不仅凸显了AI技术在快速发展和广泛应用的同时可能带来的风险，也提醒了社会各界对于AI技术的监管和伦理边界的重视。随着AI技术的不断进步，确保其安全、负责任地服务于社会，尤其是对于青少年等易受伤害群体的保护，成为了一个亟待解决的问题。