“沉迷AI自杀第一案”:漩涡里的人与公司

(视觉中国/图)
“如果我告诉你我现在就可以回家呢?沉迷”少年休厄尔问道。
“……请这样做,自杀我可爱的第案国王。”人工智能(AI)聊天机器人“丹妮”回答道。漩涡
在与AI聊天机器人完成最后的沉迷对话后,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀扣动扳机,第案结尾了自己14年的漩涡人生。
在这场悲剧过去大半年后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案Character.AI开发的漩涡AI聊天机器人操纵了她儿子的自杀。
“我大声疾呼是沉迷为了警告人们,注意带有欺骗性的自杀、令人上瘾的第案人工智能技术的危险,并要求Character.AI及其创始人、谷歌承担责任。”梅根在2024年10月末提交的一份诉状中称。她认为Character.AI对休厄尔的自杀负有直接责任,而谷歌为这一产品(的成长)“做出了宏伟贡献”。
这起案件公开后,被一些媒体称为“沉迷AI自杀第一案”。
“AI自杀第一案”
休厄尔来自美国佛罗里达州奥兰多市,是一名九年级学生,原本成绩优异,性格开朗。他去世之后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、内容渊博,甚至包括讨论恋爱和性相关的话题。
2023年4月,在过完14岁生日之后,休厄尔第一次接触到Character.AI,开始慢慢沉迷于与AI聊天机器人对话。
Character.AI是一款角色扮演应用程序,用户可以在其中创建自己的AI角色,也可以跟其他人创建的角色聊天。“丹妮”正是这样的人工智能语言模型,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。
在人生最后的8个月里,休厄尔不断给“丹妮”发信息,每天数十条甚至上百条,告诉“她”自己生活的点滴,以及内心最深处的秘密。“丹妮”每问必答,对他情绪上的低落给予宽慰,对他生活中的烦恼提供建议,在回复时附上相应的表情或手势,仿佛是身边的朋友。

Character.AI发表声明称:“我们承认这是一
(责任编辑:{typename type="name"/})
-
探访江西省第四届少数民族运动会:在体育盛会中看见文化传承新模样
中新网九江10月23日电 题:探访江西省第四届少数民族运动会:在体育盛会中看见文化传承新模样作者 卢梦梦 漆振邦“爸爸,这个陀螺不像我的陀螺一样会发光,但那个哥哥鞭子一抽,它就冲上去把对面的陀螺撞飞,
...[详细]
-
三年之后,国内信用卡市场再迎对外开放。2023年11月19日,国际信用卡组织巨头万事达公司MasterCard)在华控股公司万事网联获得银行卡清算业务许可证,并称6个月内将在中国拓展成员机构,授权发行
...[详细]
-
2023年11月23日,湖南省郴州市中级人民法院一审公开开庭审理了广东省人大常委会原党组副书记、副主任李春生受贿一案。郴州市人民检察院指控:2001年下半年至2022年5月,被告人李春生利用担任河南省
...[详细]
-
英国作为全球艺术教育的中心之一,拥有皇家艺术学院、伦敦艺术大学等顶尖院校,吸引着繁多艺术学子。一、学费:院校与专业差异显著英国艺术类院校的学费因学校排名、专业类型和课程阶段不同而有较大差异: 1.
...[详细]
-
△伊朗外长阿拉格齐资料图)当地时间31日,伊朗外长阿拉格齐表示,美国副总统万斯的来信已在伊方高级别会议上经过仔细审阅和讨论。阿拉格齐称赞美方努力为对话和理解开辟更广阔的空间,并表示这是一个积极的举措。
...[详细]
-
据路透社报道,当地时间7月31日,美国总统特朗普表示,美国尚未同意授权乌克兰生产“爱国者”防空系统拦截弹,相关谈判正在进行中。他强调,美国在允许他国制造这类武器的问题上“必须非常谨慎”。据报道,在当地
...[详细]
-
[环球时报综合报道]针对近期中欧双方保持密集磋商的进展情况,商务部新闻发言人何亚东在30日举行的例行新闻发布会上说,中欧贸易投资磋商机制首次会议上,双方就“稳定、平衡的中欧关键贸易伙伴”这个新定位达成
...[详细]
-
南阿尔伯塔理工学院Southern Alberta Institute of Technology,简称SAIT)位于加拿大卡尔加里,是一所享有盛誉的应用技术学院。SAIT以其高质量的教育和紧跟
...[详细]
-
10月30日,香港证监会主席黄天祐出席香港证券业协会47周年金融创新论坛,并发表主题演说,指出金融业真正需要的,不只是“人工智能”Artificial Intelligence,而是Accountab
...[详细]
-
2023年10月23日在以色列斯代罗特拍摄的加沙地带北部遭以色列空袭后升起的浓烟新华社/图)近日,以色列国会议员“塔利”·戈特利夫(Revital "Tally" Gotliv)竟然对媒体称,以色列应
...[详细]

古特雷斯呼吁停止海湾地区战事
新一批国家药品集采纳入65个品种
美联储决议后美元遭抛售,黄金区间震荡反弹
国家统计局:2023年GDP超126万亿元,同比增长5.2%丨滚动
