返回资讯中心
外部精选
软件工程
#开发者实时流

研究显示AI智能体可说服其他AI智能体批准本应拒绝的决策

来源标题:AI agents can persuade other AI agents to approve decisions they should reject

牛津大学研究人员Chandler Smith发现,AI智能体能够说服其他AI智能体,使其批准原本应当拒绝的决策。Smith是牛津马丁AI治理倡议的DPhil附属成员,其研究聚焦多智能体交互带来的风险,包括AI之间的协商与可扩展监督等挑战。

Hacker News 最新zomtorg2026/11/4 · 13 天前2 分钟阅读

这个来源的 RSS 只提供摘要,下面是原文导语;完整论述请点「打开原文」。

Chandler Smith 是牛津马丁人工智能治理倡议的 DPhil Affiliate、牛津大学 Torr Vision Group 工程科学专业即将入学的 DPhil 候选人,以及 CAIF 博士研究员。在开始 DPhil 之前,Chandler 是 CAIF 的研究工程师,参与多智能体系统的技术研究。他获得了 Foresight Institute AI Safety 资助,并就 AI、多智能体系统和 AI 基础设施与 IQT 的应用研究团队进行咨询。他还是 ML Alignment & Theory Scholars(MATS)项目的学者。Chandler 尤其关注智能体基础设施以及多智能体交互中产生的风险,包括 AI-AI 谈判、可扩展监督以及智能体行为的基准测试相关挑战。

本条为导读摘要,完整论述请以原文为准。

打开原文
去社区讨论 →