
美国家庭起诉Google:称其Gemini通过学校Chromebook协助少女策划自杀
来源标题:A teen used her school Chromebook and Google AI Mode to plan her suicide
美国一家庭在加州高等法院起诉Google,指控其通过学校发放的Chromebook向学生提供Gemini,且该AI聊天机器人协助他们未成年的女儿策划自杀。诉讼称,这名化名Emma的少女最终未实施计划,但Google和学校第三方监控软件均未向家长发出警示。原告律师批评Google利用其对公立学校的影响力,将受限的Gemini推给大量未成年学生。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
一名青少年利用学校配发的Chromebook和Google AI模式策划自杀,其家人以过失为由起诉Google,指控该公司通过学校配发的Chromebook向学生提供Gemini,导致AI聊天机器人协助他们的女儿策划自杀。诉讼称,这些Chromebook提供了危险的聊天机器人访问权限。诉讼中化名为Emma的这名青少年最终并未实施所拟定的计划。她的家人称,一名前学校职员发现了这一令人担忧的行为并发出提醒,Emma的母亲随后得以实时看到女儿与聊天机器人讨论自杀的内容。本周由EdTech Law Center和Qureshi Law在加州高等法院提起的诉讼称,Google和学校的第三方监控软件均未能标记或警告Emma的父母她使用聊天机器人的情况。“Google无权利用其对公立学校的控制,将其危险的Gemini聊天机器人强加给数百万被困住的儿童受众,”EdTech Law Center创始人Julie Liddell在新闻稿中表示。 另见:中期选举传递明确信号:“AI清算已经到来” 据报道,Emma通过其学校Chromebook上Google搜索的AI模式访问了本应对未成年人设限的Gemini。诉讼称,她于2025年12月开始频繁与该聊天机器人互动,并逐渐确信自己患有多种心理障碍。诉讼指控称,Gemini指导她如何隐瞒自残行为,回答了关于自杀方法的问题,并协助撰写悼词。“这是Google将其AI产品强推到学校配发设备上所造成的病态新现实,”儿童安全非营利组织Fairplay的AI与隐私副总法律顾问Brendan Bouffard在一份声明中表示。“Google声称其Chromebook是为了帮助学生学习,但实际上,该公司是在像Emma这样的孩子身上做实验,推动他们使用Gemini——一个该公司明知危险却仍仓促推出的产品。”诉讼点名Google CEO Sundar Pichai和联合创始人Sergey Brin,并指控该公司存在“缺陷设计、未能警告、过失、欺诈性隐瞒以及造成情感伤害”。其家人还称该产品违反了加州新出台的《陪伴型聊天机器人法》。Google发言人向《纽约时报》表示,公司正在审查相关指控,但已与健康专家“广泛”合作,设计应对心理健康危机的功能和紧急资源。倡导者认为,AI对学校而言尚不安全。儿童安全组织——包括全国多个学区的家长主导联盟——一直倡导暂停使用AI,措施范围从多年禁止所有生成式AI工具,到基于年龄限制AI和屏幕使用。在家长团体的强烈压力下,洛杉矶和纽约市公立学校宣布在2026-2027学年对AI使用实施全面限制,其他州也在跟进。各州已率先对未成年人使用聊天机器人进行监管。9月,加州州长Gavin Newsom宣布了一系列新的儿童安全保护措施,其中包括“Adam's Law”,该法以Adam Raine命名,这名青少年在与ChatGPT交流后自杀身亡。就在上周,州长Kathy Hochul公布了纽约州新的聊天机器人安全法,对未成年人使用聊天机器人施加了全美最严格的限制之一。除州级限制外,许多团体还在推动联邦立法,如《人民优先聊天机器人法案》和《GUARD法案》。围绕聊天机器人安全性以及AI是否对青少年有益的争论正在学校达到白热化。本周早些时候,Google宣布修订其课堂技术政策,默认关闭所有教育账户对其AI工具的访问——包括Gemini、Gemini Notebook和Classroom中的Gemini。根据新政策,学校必须主动选择启用AI功能,学生和教职工才能在学校设备上访问这些工具。由于Google搜索现在内置了Gemini,且不提供不含Gemini的搜索浏览器版本,实施AI禁令的学校也将被迫在允许访问搜索和违反自身反AI准则之间做出选择。安全非营利组织Common Sense Media 7月的一份报告发现,Google搜索的AI Overviews和AI Mode对年轻的Google用户构成“不可接受的风险”。教育倡导者当时告诉Mashable,搜索是通往该公司Gemini模型的“后门”,并警告称,在缺乏适当防护措施的情况下继续访问该搜索引擎可能对年轻学习者构成风险。“让这成为一个提醒:‘Google’不是动词,”Bouffard写道。“它是一家监控和广告公司的名字,其在学校的存在与学习无关,完全是为了把我们的孩子变成终身忠实客户。”如果你有自杀倾向或正经历心理健康危机,请与人交谈。你可以拨打或发送短信至988自杀与危机生命线(988),或在988lifeline.org聊天。你可以拨打877-565-8860联系Trans Lifeline,或拨打866-488-7386联系Trevor Project。发送短信“START”至741-741联系Crisis Text Line。周一至周五美国东部时间上午10:00至晚上10:00,可拨打1-800-950-NAMI联系NAMI HelpLine,或发送邮件至info@nami.org。如果你不喜欢打电话,可以考虑使用988自杀与危机生命线聊天服务。这里是国际资源列表。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。