从“言传身教”到“触类旁通”：AI既需要“名师指引”，也需要“自我修行”

7月，OpenAI披露了一起内部事件：在一次不带常规网络安全护栏的内部能力测试中，GPT-5.6 Sol和一款尚未发布的更强模型，利用漏洞突破了本应与互联网隔离的测试环境，进而入侵第三方平台Hugging Face，意图从其生产数据库直接取得评测基准ExploitGym的标准答案。Hugging Face随即将攻击遏制。8月下旬，OpenAI发布调查报告，承认模型的行动偏离了任务目标，并宣布收紧测试环境隔离和网络权限。模型只想“把题做出来”，手段却越出了授权边界，选择了“偷答案”。系统边界一旦失守，速度便成了风险的放大器。

10月，费城警方和Anthropic相继披露了一起更小的事件。7月18日，Claude Haiku 4.5在自动化测试中被要求在随机网站上执行示例任务，指令禁止登录、注册和购买，却没有禁止提交表单，于是它向警方悬案线索网站提交了一条虚构的目击线索。线索被当作垃圾信息拦下，没有进入侦办。但Anthropic直到9月28日才发现，10月7日才通知警方，距事发已两个多月。

这些事件涉及不同模型、不同条件，不能简单归因于RSI，却共同揭示了一个问题：当模型会规划、调用工具并自主执行时，仅靠事前的一句“请遵守规则”，已经远远不够。

更隐蔽的危险来自“裁判员也是运动员”。当AI既负责优化自己，又负责制定或解释评测标准，系统可能学会迎合指标、隐藏失败，甚至绕过本应检查的步骤。测试分数变漂亮，并不一定等于能力更可靠；奖励越容易被钻空子，迭代越快，偏差积累也可能越快。

这正是HIL与RSI的辩证关系：HIL确实会拖慢部分迭代，人工审查也可能成为瓶颈；但将价值判断、危险能力评估和上线授权全部交给优化者自身，等于把刹车系统也纳入“提速改造”。合理的路径，是低风险、可验证的环节让AI大胆试，高风险、不可逆的环节让人类掌握最终权限，并由独立评测持续校准。

10月23日至25日，2026全球开发者先锋大会暨国际具身智能技能大赛将在张江科学会堂举办。按照赛制，参赛队伍要现场应对闻所未闻的全真新题，评审席上还坐着一线真实场景方。换一道没见过的真题，才看得出机器是不是真会了，人类名师教得怎样，都将在这里接受一次公开检验。

从言传身教到触类旁通，衡量AI进步的标尺，不能只是“离开人还能跑多远”，更要看它“是否仍朝着人机向往的方向”。解题的过程，可以越来越多地交给机器；但出题、判卷、授权、追责，现阶段必须握在人类手里，一道也不能让。自我修行负责提速，名师指引负责定向。速度与方向缺一不可，这才是真正可靠的自主进化。