外部精选
ai-models
#海外 AI 资讯#AI research#Artificial Intelligence#Alignment#OpenAIOpenAI研究：前沿模型隐藏思维链，源于开发者优先优化能力与算力
来源标题：OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
OpenAI安全团队系统调查发现，GPT-6 Astra等前沿模型的思维链正越来越难以被监督。研究指出，架构选择和强化学习等四个训练步骤导致了透明度的流失，这并非必然规律，而是开发者在能力与成本之间权衡的结果。
The DecoderMaximilian Schreiner2026/11/12 · 今天1 分钟阅读
这个来源的 RSS 只提供摘要，下面是原文导语；完整论述请点「打开原文」。
OpenAI 的安全团队系统性地调查了为什么 GPT-6 Astra 等前沿模型中的思维链正日益逃避监督。有四个训练步骤导致了这种透明度的侵蚀，包括架构选择和强化学习。分析表明，透明度的丧失并非自然规律，也反映了围绕能力与成本的权衡。
文章《OpenAI 的数据表明，前沿模型正在隐藏其思考过程，因为开发者优化的是能力与算力》首先发表于 The Decoder。
本条为导读摘要，完整论述请以原文为准。