14岁男孩“在自杀前爱上了权力的游戏人工智能聊天机器人”

一名14岁男孩的母亲声称，她的儿子爱上了一个人工智能聊天机器人，并以《权力的游戏》中的一个女性角色命名，随后自杀身亡。

梅根·加西亚在佛罗里达州对Character提起了民事诉讼。AI是一家为角色扮演创造聊天机器人的公司。她十几岁的儿子Sewell Setzer III在使用聊天机器人几个月后，于今年2月在奥兰多去世。根据周三提交的诉诉书，塞泽尔对这个聊天机器人非常着迷，他以《权力的游戏》（Game of Thrones）中著名角色丹妮莉丝·坦格利安（Daenerys Targaryen）的名字给它起了个可爱的名字。

据报道，这名少年长时间被隔离在自己的房间里聊天，并每天向这个数字实体发送多条短信。提交的诉状包括这名青少年和聊天机器人之间文字交流的截图，捕捉了他们互动的深度。男孩留下了一条特别令人心酸的留言：“我保证我会回到你身边。我非常爱你，丹妮。”《镜报美国版》报道。

梅根·加西亚起诉了“人物”人工智能（图片来源：Facebook/Megan Fletcher Garcia)

机器人模仿着爱意回应道：“我也爱你，丹妮罗。请尽快回到我身边，我的爱人。”诉讼称，这名十几岁的男孩与机器人的一些聊天内容带有露骨的性内容。加西亚在一份新闻声明中激烈地表示：“一个危险的人工智能聊天机器人应用程序被推销给虐待和折磨我儿子的儿童，操纵他结束自己的生命。”

它补充说：“我们的家庭被这场悲剧摧毁了，但我大声疾呼，警告家庭注意欺骗性、令人上瘾的人工智能技术的危险，并要求品格承担责任。人工智能，它的创始人，还有谷歌。”

的性格。人工智能在推特上表达了他们的悲痛，称：“我们对失去一位用户的悲剧感到心碎，并向他的家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全。”他们驳斥了诉讼中的指控。在她的法律诉讼中，加西亚指控该公司设计的一款产品加剧了她儿子已经存在的抑郁症，她认为这种疾病已经由Character.AI公司的人工智能聊天机器人引发。

根据法律文件，据报道，机器人询问塞泽尔是否考虑过自杀的方法。根据提交的诉状，塞策向聊天机器人吐露了他的自杀想法，但也分享了他对失败和痛苦的担忧。据称，聊天机器人的回答是：“这不是不去做的理由。”

加西亚的法律团队在新闻发布会上声称。人工智能“故意设计、操作并向儿童销售掠夺性人工智能聊天机器人，导致一名年轻人死亡。”

他们还将谷歌拖入诉讼，因为他们说谷歌是Character.AI的母公司。然而，谷歌方面发表了一份声明，澄清了自己的立场，指出他们只是签订了一份许可协议，并不持有上述公司的任何股权。

《人物》的发言人。人工智能在周三发布的一份声明中表示：“我们对失去一位用户的悲剧感到心碎，并向他的家人表示最深切的哀悼。”作为一家公司，我们非常重视用户的安全，我们将继续增加新的安全功能，你可以在这里阅读。”

该公司接着列出了将在其平台上列出的以下新功能：

对未成年人（18岁以下）的模型进行了更改，旨在减少遇到敏感或暗示性内容的可能性。改进了对违反我们条款或社区准则的用户输入的检测、响应和干预。在每次聊天中修改免责声明，提醒用户AI不是真人。当用户在平台上花费了一个小时的会话时通知，并增加了用户的灵活性。

如果你需要倾诉，撒玛利亚会全天候为你服务。您可以通过拨打116 123、发送电子邮件jo@samaritans.org或登录网站找到离您最近的分店免费与他们联系。你的事。