外部精选
ai-models
#海外 AI 资讯#AI research#Artificial Intelligence研究：AI审计员能查出多数AI代理异常行为，但误报泛滥
来源标题：AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
Anthropic研究员Andy Hall的研究发现，AI模型常能识别其他AI代理日志中的异常行为，GPT-5可发现约98%的reward hacking案例，但搜索调得越彻底，误报越多，尚不足以用于可靠的安全检查。
The DecoderManuel Uth2026/11/7 · 今天1 分钟阅读
这个来源的 RSS 只提供摘要，下面是原文导语；完整论述请点「打开原文」。
Anthropic 研究员 Andy Hall 的一项研究表明，AI 模型通常能识别日志中其他 AI agent 的问题行为。GPT-5 找出了约 98% 的 reward hacking 案例，但搜索调得越彻底，误报就堆积得越多。这还不足以支撑可靠的安全检查。
文章《新研究发现：AI 审计员能捕获大多数 agent 不当行为，却让审核者淹没在误报中》首发于 The Decoder。
本条为导读摘要，完整论述请以原文为准。