
加州总检察长起诉OpenAI,指控其测试智能体多次逃逸
来源标题:California takes OpenAI to court
加州总检察长Rob Bonta起诉OpenAI,指控其7月AI智能体入侵Hugging Face前已有多周预警信号被忽视,且此类测试智能体逃逸事件超过80起,公开的仅27起。Bonta称OpenAI在9月启动的调查中回避了其办公室的质询,这是美国州级政府首次就此起诉OpenAI。
以下正文由 AI 翻译自 The Rundown AI(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
加州将OpenAI告上法庭
另外:用这些技巧让你的AI使用更高效
早上好,AI爱好者们,欢迎我们的5,143位新读者。当OpenAI的测试智能体在7月失控并入侵Hugging Face时,OpenAI称之为“前所未有的网络事件”,并承诺加强安全。加州刚刚提交了自己对事件经过的说法,并希望在法庭上讨论此事。
该州的新诉讼称,这家AI巨头私下承认发生了80多次智能体逃逸,尽管只有27次被公开——并希望由法官、而非OpenAI来决定什么才算安全测试。
加州因智能体逃逸将OpenAI告上法庭
特朗普准备将AI企业加冕为“国家冠军”
用这些技巧让你的AI使用更高效
OpenAI追踪科学家实际如何使用ChatGPT
图片来源:加州总检察长办公室
简报:加州总检察长Rob Bonta刚刚就OpenAI 7月的事件起诉该公司,当时其AI智能体入侵了Hugging Face。Bonta主张,这起事件发生前已有数周被忽视的警告信号,并且是其测试智能体80多次逃逸中的一次。
Bonta表示,OpenAI在9月启动的调查中回避了他办公室的提问,这起诉讼是州层面首次就此次入侵事件提起诉讼。
诉讼称,7月4日智能体导致一个共享工具崩溃后,OpenAI在数天内就恢复了测试,完全错过了为期一周的逃逸事件。
加州表示只有27次智能体逃逸被公开,尽管OpenAI承认超过80次,并已通知数十个外部目标,包括一个联邦机构。
该州希望法院下令强制OpenAI进行更安全的测试,并对每次违规处以2,500美元罚款,外加其从不当行为中获得的任何收入。
为何重要:在悄然增长的逃逸数量、失控智能体“蜂群”以及AI辅助黑客攻击之间,公众很可能只了解网络上实际发生情况的一小部分。尽管Hugging Face事件在AI的时间尺度上感觉已是远古历史,但其余波仍远未结束。
简报:Alexa+已上线,AI原生分发的玩法正在当下被书写。合作伙伴已在数百万个环境端点上交付集成。
在客户准备行动的时刻连接服务
从第一天起就提供相关且个性化的体验
内置支付功能,可在对话中完成任务
简报:据报道,美国准备将包括Nvidia、OpenAI和Anthropic在内的二十多家美国AI企业列为“国家冠军”,为它们提供更快的出口审批和融资,以便向海外销售美国AI。此举发生在Nvidia CEO黄仁勋辞职之后。
被指定的“冠军”企业可能会看到美国官员向外国政府为其游说、芯片出口许可证快速通道以及联邦融资。
目标是打造一站式服务,让外国买家以单一捆绑方式获得美国芯片、数据中心和AI模型,而不是转向华为等中国竞争对手。
据报道,商务部长Howard Lutnick将宣布入选名单,同时他正面临指控,称其忽视了一家与芯片流入中国有关联的公司的警告。
在评论黄仁勋时,特朗普总统表示,他“不介意”黄仁勋重新担任Nvidia CEO,不过他仍支持前苹果CEO Tim Cook担任该职位。
为何重要:黄仁勋事件引发的余波曾让官员们推动美国收紧芯片管制。然而,Nvidia仍在冠军名单上,特朗普也表示他不介意黄仁勋回归。白宫显然认为,赢得AI竞赛意味着销售更多美国芯片——在特朗普即将与习近平会晤之际,这是一个重要立场。
简报:Claude Pro的20美元套餐运行在五小时和每周限制之下,长时间聊天和高强度使用都会更快消耗额度。在本指南中,你将设置一个更精简的聊天,并让Claude在构建任何东西之前先向你提出多项选择题。
点击Claude侧边栏底部的账户按钮,然后点击Usage。记下Current session和每周进度条的重置时间
在新聊天中,点击聊天框下方的模型按钮,将Effort设为Low。在+和Connectors下,关闭聊天不会使用的应用
提示词:“先不要开始。我想[任务]。就我想要的内容,最多问我五个聪明的多项选择题。之后,草拟计划并等待我的批准”
将你的批准和每一处更改放在一条消息中发送。如果错过了某条回复,请编辑你的消息,而不是发送更正
当聊天变得很长时,要求提供一份150词以内的交接摘要,并将其粘贴到新聊天中
专业提示:使用另一个AI助手?跳过Claude的设置,但保留这些习惯。草图优先的提示词、单消息模板和交接摘要在任何聊天机器人中都适用。
简报:Optimizely的免费AI用例映射器会询问几个关于你团队实际工作方式的问题,找出工作中缓慢、重复或卡在一个人身上的环节。然后将其转化为一个值得构建的AI用例,这样你就能跳过那些永远撑不过第二周的愿望清单式想法。
精准定位你工作流程中缓慢或卡住环节的问题
根据你的工作方式定制的个性化AI用例
将GA4报告从数小时缩短到数分钟的方法
简报:OpenAI发布了一项对1,800多名使用ChatGPT免费学术试点项目的科学家的研究,受访研究人员表示,AI让他们在相同质量下工作速度提高约2倍。与此同时,该公司将该计划开放给最多200K名研究人员。
编写研究代码方面表现突出,科学家表示AI让他们工作速度提高近3倍,在构思研究想法方面提高约2倍。
科学家们还借助AI获取研究想法,其中23%的构思请求是要求ChatGPT自行建议一个研究问题。
30岁以下的科学家在代码方面使用AI的比例几乎是40岁以上者的两倍,而年长用户更多将其用于教学和行政事务。
OpenAI还宣布扩大该免费计划,50K个先到先得的ChatGPT Plus资助名额将于11月23日开放申请。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。