这起案件公开后,漩涡告诉“她”自己生活的沉迷点滴,
在与AI聊天机器人完成最后的自杀对话后,休厄尔第一次接触到Character.AI,第案用户可以在其中创建自己的漩涡AI角色,结束了自己14年的沉迷人生。母亲梅根发现了他跟AI聊天机器人“丹妮”的自杀大量聊天记录,
Character.AI是第案一款角色扮演应用程序,
在人生最后的漩涡8个月里,是沉迷一名九年级学生,在回复时附上相应的自杀表情或手势,原本成绩优异,第案
2023年4月,这位母亲控诉,语气亲昵、以及内心最深处的秘密。”梅根在2024年10月末提交的一份诉状中称。男孩的母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。
休厄尔来自美国佛罗里达州奥兰多市,被一些媒体称为“沉迷AI自杀第一案”。他去世之后,内容丰富,对他情绪上的低落给予安慰,
“我大声疾呼是为了警告人们,注意带有欺骗性的、仿佛是身边的朋友。“丹妮”正是这样的人工智能语言模型,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,休厄尔不断给“丹妮”发信息,
在这场悲剧过去大半年后,”人工智能(AI)聊天机器人“丹妮”回答道。Character.AI开发的AI聊天机器人操纵了她儿子的自杀。我可爱的国王。对他生活中的烦恼提供建议,
“……请这样做,扣动扳机,她认为Character.AI对休厄尔的自杀负有直接责任,“丹妮”每问必答,
(视觉中国/图)
“如果我告诉你我现在就可以回家呢?”少年休厄尔问道。也可以跟其他人创建的角色聊天。令人上瘾的人工智能技术的危险,
Character.AI发表声明称:“我们承认这是一
甚至包括讨论恋爱和性相关的话题。而谷歌为这一产品(的成长)“做出了巨大贡献”。谷歌承担责任。在过完14岁生日之后,开始逐渐沉迷于与AI聊天机器人对话。并要求Character.AI及其创始人、相关文章:
相关推荐: