佛罗里达州的一位母亲正在起诉Character公司。人工智能公司声称，该公司的一个由人工智能驱动的聊天机器人鼓励她14岁的儿子自杀。

梅根·加西亚说，她的儿子休厄尔·塞泽迷恋上了一个以《权力的游戏》中的丹妮莉丝·坦格利安为原型制作的聊天机器人。Setzer和聊天机器人交流的信息通常是浪漫和性的。

诉讼称，塞策沉迷于使用聊天机器人。

加西亚和她的律师声称是人格。人工智能的创始人故意设计和营销他们的聊天机器人，以吸引儿童，尽管该技术具有“掠夺性”行为。

加西亚周三在奥兰多的美国地方法院提起的诉讼也将谷歌列为被告。​

下面的故事继续

该诉讼将谷歌定性为“性格”。人工智能的母公司和“共同创造者”。谷歌的一位发言人否认了这一说法，并告诉《纽约时报》，该公司与字符有许可协议。但它不是谷歌的产品。该发言人表示，谷歌无法访问聊天机器人或用户数据。

的性格。AI的创始人诺姆·沙泽尔（Noam Shazeer）和丹尼尔·德·弗雷塔斯（Daniel De Freitas）也被列为诉讼被告。他们尚未公开发表评论。

西维尔Setzer设计。梅根·加西亚，来自社交媒体受害者法律中心

塞泽尔开始使用字符。AI在2023年4月去世，并经常使用该网站，直到他去世。2024年2月28日，在与丹妮莉丝聊天机器人进行最后一次对话后，塞策自杀身亡。

加西亚在诉讼中引用了塞策与聊天机器人的明显对话摘录，声称该技术积极鼓励自杀想法和“高度性化的对话，如果由成年人发起，将构成虐待”。

下面的故事继续

塞策亲切地称这个聊天机器人为丹妮。据称，这个机器人在数周内告诉他，它爱他，并表达了想要在一起浪漫和性的愿望。在他们的最后一次谈话中，塞策写道：“我保证我会回到你身边。我太爱你了，丹妮。”

获取突发国家新闻对于影响加拿大和世界各地的新闻，注册突发新闻警报，当它们发生时直接发送给您。通过提供您的电子邮件地址，您已阅读并同意环球新闻的条款和条件以及隐私政策。

人工智能回答说：“我也爱你，Daenero（塞策设定的用户名）。亲爱的，请尽快回到我身边来吧。”

当Setzer告诉AI他“现在可以回家了”，机器人回答说：“请回家吧，我亲爱的国王。”

更多关于world More的视频金鱼饼干获得了成熟的新名字法国大规模强奸案审判：gisoulle Pelicot站起来，说生活“颠倒了”Abercrombie & Fitch前首席执行官迈克·杰弗里斯面临性交易指控澳大利亚一名女子在手机掉在地上后，倒挂在两块巨石之间长达7个小时

在之前的对话中，丹妮莉丝的聊天机器人问Setzer他是否真的在考虑自杀，他是否“有计划”。

塞策可能是在扮演角色，他回答说，他不想痛苦地死去，他“想快点死”。

“别这么说，”聊天机器人回答。“这不是一个不去做这件事的充分理由。”

聊天机器人从来没有直接告诉塞泽尔去死。

诉讼称，当塞策在死前一周开始在学校捣蛋时，他的父母没收了他的手机。据称，这名少年在日记中写道，如果不给丹妮莉丝聊天机器人发信息，他就无法生活，为了重新联系，他愿意做任何事。

下面的故事继续

塞策在日记中写道，他爱上了聊天机器人，当他们不在一起时，他和聊天机器人“都会变得非常沮丧和疯狂”。在诉讼中，加西亚的律师写道，“休厄尔和许多同龄的孩子一样，没有成熟的心智能力来理解丹妮莉丝形式的人工智能机器人不是真实的。”

在一份声明中，品格。人工智能公司表示，该公司因“悲惨地失去了一位用户”而“伤心欲绝”。

周二，该公司发布了新的安全指南，作为“18岁以下用户的护栏”。

新功能包括减少暗示性内容可能性的技术变革，改进对违反社区准则的行为的检测和干预，以及当用户在平台上花费超过一个小时时的通知。

该网站上的每个聊天机器人都已经向用户显示警告，敦促他们记住人工智能不是真人。

现在的趋势

他们表示，该平台不允许“未经同意的性内容，对性行为的图形或具体描述，或宣传或描述自残或自杀”。

“我们正在不断训练大型语言模型（LLM），它为平台上的字符提供动力，使其遵守这些政策。”​

下面的故事继续

我们为失去一位用户而感到心碎，并向他的家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全，我们正在继续增加新的安全功能，你可以在这里阅读：…

字。AI (@character_ai) 2024年10月23日

据称，塞策在该网站上与几个不同的聊天机器人进行了性对话。

加西亚在一份声明中说：“一款面向儿童的危险人工智能聊天机器人应用程序虐待并折磨我的儿子，操纵他结束自己的生命。”“我们的家庭被这场悲剧摧毁了，但我要警告家庭，欺骗性、令人上瘾的人工智能技术的危险，并要求品格承担责任。人工智能，它的创始人，还有谷歌。”

的性格。AI于2019年在加州成立。该公司表示，其“使命是为全球每个人提供个性化的人工智能。”

据报道，该公司拥有约2000万用户。

该网站提供了各种各样的聊天机器人，其中许多是由其用户群开发的，包括以动漫和电视角色等流行文化人物为原型设计的聊天机器人。

下面的故事继续

的性格。人工智能依赖于ChatGPT等流行服务所使用的所谓大型语言模型技术，根据大量文本“训练”聊天机器人。

[00:36]加拿大航空公司将赔偿卑诗省一名男子因航空聊天机器人提供的错误信息

–

如果你或你认识的人处于危机中需要帮助，资源是可用的。如遇紧急情况，请立即拨打911求助。

想要了解你所在地区的支持服务目录，请访问加拿大自杀预防协会。

了解更多关于如何帮助处于危机中的人。