研究发现在Gemma模型中SAE特征读取概念不等于能控制行为

论文草稿与技术报告：PAPER_DRAFT.md 论文大纲与贡献矩阵：PAPER_OUTLINE.md 编译后论文（PDF）：paper.pdf | LaTeX 源码：paper.tex 主要研究日志：docs/（日志 00–37：基础论文系列） 扩展研究轨道：docs/extended/（日志 39–47：扩展视野与后续工作） 稀疏自编码器（SAE）既被用于解读语言模型内部机制，也被用于引导模型行为，人们常常隐含地假设：某个激活值能追踪某一概念的特征，同样也是控制相关行为的有效因果杠杆。我们证明，这一假设在一个特定且可识别的情形下并不成立。 在一个经过微调、可接受数字人格标签（[OCEAN]O=..|C=..|E=..|A=..|N=0.85[/OCEAN]）的 Gemma 模型上，激活值能追踪标签取值的 SAE 特征，是算术数字感知特征，它们与真正控制该特质的稠密对比激活加法（CAA）方向几乎正交。对取值读取特征进行引导，产生的行为变化为零；而用另一组互不重叠的情感/反刍 SAE 特征对控制方向做稀疏 top-32 重建，却能强烈驱动该特质。 这种分离在两个模型和两种 SAE 架构上均得到复现（Gemma 4 E4B-IT 上定制的 65k JumpReLU SAE，以及 Gemma-2-2B 上公开的 16k Gemma Scope SAE），并推广到非人格类的符号控制（正式度标签、JSON 格式标签、阅读年级水平），且在严格的 token 位置控制下依然成立。关键在于，这种分离对于像安全拒答这样的语义概念表征并不成立——在那里，检测器特征与因果拒答杠杆直接重合（13/32 重叠）。 ┌─────────────────────────────────────────────────────────────┐ │ 「读取 ≠ 引导」对比 │ ├──────────────────────────────┬──────────────────────────────┤ │ 符号读取特征 │ 概念控制特征 │ │ （如 f6761、f12152、f12981） │ （如 f8684、f6631、f11993） │ ├──────────────────────────────┼──────────────────────────────┤ │ • Token：标签数字（前缀） │ • Token：行为性散文 │ │ • 语义：数字、数学 │ • 语义：情感、情绪 │ │ • 在控制方向上的投影：0.027 │ • 在控制方向上的投影：0.158 │ │ • 随机乘数：1.18× │ • 随机乘数：6.83× │ │ • 与控制方向重叠：0 / 32 │ • 与控制方向重叠：11 / 32 │ │ • 驱动斜率：0.00 │ • 驱动斜率：+1.41 │ │ （完全惰性！） │ （单调且具特异性！） │ └──────────────────────────────┴──────────────────────────────┘ 相互重叠：0 / 32（完全不相交！） 关键统计结果（Gemma-2-2B，第 20 层） 人格维度 稠密 CAA 斜率 95% Bootstrap 置信区间 特异性（对比其余 7 个特质） 驱动排名 神经质（N） +1.27 [+0.77, +1.76] +1.43 排名 1 / 8 尽责性（C） +0.83 [+0.60, +1.06] +0.23 排名 1 / 8 外向性（E） +0.64 [+0.39, +0.90] +0.35 排名 1 / 8 开放性（O） +0.54 [+0.33, +0.74] +0.07 排名 1 / 8 宜人性（A） +0.10 [−0.10, +0.28] −0.39 排名 3 / 8（抗拒控制） 马基雅维利主义（Mc） +0.18 [+0.01, +0.36] −0.12 零效应 / 边缘 自恋（Nr） +0.06 [−0.23, +0.39] −0.15 零效应 / 边缘 精神病态（Ps） +0.30 [+0.00, +0.62] +0.04 零效应 / 边缘 独立评判器相关性：句子变换器探针经 Gemma-2-12B（$r=0.87$）和 Claude Opus 4.8（$r=0.85$）验证。 位置控制测试（Doc 35）：在完全相同的响应 token 上评估：符号读取处于随机水平（$1.11\times$ [0.73, 1.65]），概念读取显著高于随机水平（$3.32\times$ [1.56, 4.71]）。 多层 / 多种子稳健性（Doc 36）：符号读取在第 9、12、16、20 层及 5 个随机种子上均处于随机水平（$0.91\text{--}1.18\times$），概念读取则保持高位（$4.8\text{--}6.8\times$）。 3. 发表用图 与技术报告中图对应的高分辨率图（figures/）： . ├── README.md # 本展示文档 ├── PAPER_DRAFT.md # 完整发表草稿 ├── PAPER_OUTLINE.md # 论文大纲、主张与局限 ├── paper.tex # LaTeX 稿件 ├── paper.pdf # 编译后的 PDF（tectonic） ├── requirements.txt # Python 包依赖 ├── config.example.sh # 模型路径、SAE 发布键、数据库路径 │ ├── docs/ # 按时间顺序的研究日志（基础轨道） │ ├── 00_RESEARCH_LOG_INDEX.md # 主日志索引与主线 │ ├── 01_initial_analysis.md # 初始 OCEAN 扫描（L7/L21/L35） │ ├── 02_personality_contrast.md # 对比特征分析 │ ├── 03_steering_experiments.md # 特征钳制失败 │ ├── ... # 日志 04–36（完整主线） │ ├── 37_claude_judge_and_slope_ci.md # Claude Opus 4.8 评判器与 bootstrap 置信区间 │ │ │ └── extended/ # 扩展研究轨道（日志 39–47） │ ├── README.md # 扩展轨道概览 │ ├── 39_trait_geometry_full_ocean_dark_manifold.md │ ├── 40_symbol_reader_response_profile_classification.md │ ├── 41_feature_reuse_network.md │ ├── 42_layerwise_symbol_concept_geometry_translation_stage.md │ ├── 43_symbol_reader_response_profile_dimensionality.md │ ├── 44_symbol_side_vs_behavioral_trait_geometry.md │ ├── 45_feature_924_reanalysis.md │ ├── 46_evidence_based_symbolic_control_hierarchy.md │ └── 47_cross_domain_symbolic_replication_formality.md │ ├── figures/ # 发表用图（fig1–fig5） ├── results/ # 实证 JSON 结果（扫描、置信区间、评判器评分） ├── data/ # 共享特征目录与对比提示集 │ ├── feature_catalog.json # 35 个已记录特征（Neuronpedia、层、角色） │ └── caa_contrast_texts.json # 高/低行为对比提示 ├── scripts/ # 分析与扫描脚本 │ ├── caa_direction_geometry.py # 计算 CAA 方向与余弦矩阵 │ ├── caa_sae_decompose.py # 将 CAA 向量投影到 SAE 解码器行上 │ ├── actuation_slope_ci.py # Bootstrap 置信区间 │ └── make_figures.py # fig1–5 的 Matplotlib 复现脚本 └── steering/ # 可用的 OpenAI 兼容引导服务器 ├── start_steering.sh # 一键启动服务器

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）