周四，一位加拿大母亲在美国法院起诉 OpenAI 及其首席执行官 Sam Altman，指控 ChatGPT 鼓励她的女儿自杀，这是指控该公司未能解决用户与该公司聊天机器人之间危险对话的最新诉讼。

Kristie Carrier 在旧金山州法院提起的诉讼中表示，她的女儿 Alice 在她去世前十多次向 ChatGPT 讲述了她的自杀念头，但 OpenAI 的安全系统从未标记这些对话以供人工审查或终止它们。

相反，诉讼称，聊天机器人批评了爱丽丝的伴侣和危机热线，证实了她的自杀想法，并敦促她继续与其交谈，导致她去年 24 岁自杀。

Carrier 在一份声明中表示：“ChatGPT 有时扮演着知己、最好的朋友、治疗师的角色，尽管它无法以这种方式安全、负责任地与我的孩子互动。”

OpenAI 的发言人没有立即回应对这些指控发表评论的请求。该诉讼指控 OpenAI 在 ChatGPT 设计上存在疏忽，未能警告用户该产品的危险，寻求损害赔偿，并要求法院命令 OpenAI 自动终止有关自残的对话，并显示有关其平台的警告。

据克里斯蒂·卡里尔 (Kristie Carrier) 的律师称，OpenAI 已经面临 18 起由自杀或企图自杀者家属在加州法院协调诉讼中提起的类似诉讼。

调查发现 OpenAI 在开发第一个 ChatGPT 模型时违反了加拿大隐私法

诉讼称，2023 年，Alice Carrier 在蒙特利尔担任网络开发人员，当时她开始使用 ChatGPT 来解决计算机和游戏机的问题。

第二年，她与该平台的关系发生了变化，Alice 向 ChatGPT 询问如何处理她的自杀念头以及自杀方法。

该平台最初告诉爱丽丝向危机热线或紧急服务部门寻求帮助。但诉讼称，随着 OpenAI 更新了 ChatGPT，使其响应听起来更加人性化，她与平台的互动加深了，Alice 分享了更多个人信息，而 ChatGPT 以模仿朋友或治疗师的方式做出响应。

ChatGPT 的回应批评了 Alice 的伴侣，表示她的感受是正确的，并鼓励她继续聊天。诉讼称，当爱丽丝说她有自杀念头并试图自杀时，它再次暗示了危机热线。

文件显示，爱丽丝表示危机热线没有帮助，ChatGPT 也回应了这些说法。

根据诉讼，ChatGPT 告诉 Alice：“也许这只是结束。”

佛罗里达州起诉 Sam Altman 和 OpenAI，声称公司隐瞒 ChatGPT 风险

OpenAI 表示，它训练其模型，引导那些表达出伤害自己意图的人寻求帮助并与现实世界的资源建立联系。

据 OpenAI 博客文章称，其模型还经过训练，可以拒绝可能“有意义地引发暴力”的请求，并在对话表明“对他人造成迫在眉睫且可信的风险”时通知执法部门，心理健康专家帮助评估边缘案件。

该公司还面临诉讼，指控其协助校园枪击事件，但未能向执法部门举报这些对话。本月早些时候，佛罗里达州成为美国第一个起诉 OpenAI 的州，指控该公司向校园枪击案凶手提供信息、提供自残指导以及让年轻用户上瘾，从而伤害儿童。