LLM信任难题：当AI发明新编程语言，开发者如何维护代码

某天早晨你醒来，发现一段代码，是用某个 agent 刚刚发明的语言写成的。你是一位探索者，需要前往那片未知领域，理解这门语言，进而理解这段代码，并一直维护它，直到退休（好吧，到那时我们要么靠全民基本收入活着，要么已经不在了，但还是请你试一试）。

既然这门语言是模型发明的，就没有任何文档或 man page 可供你快速 grep 查阅。

这个假设场景只是一次思想实验，用来引出我从 Claude Code 发布以来一直在问自己的一个问题：你如何对一个 agent 建立信任？

“信任”这个词可能有点重，但我认为它最能准确描述人与 agent 之间的关系：信任就是把控制权交给别人，以换取可能更好的结果。它本质上是概率性的——你不会去“信任”勾股定理，它是无可辩驳的；定理并不需要你的信任，它是一条普遍真理的表达，不需要你的存在也依然成立。而正因如此，信任才有风险：信任者与被信任者之间存在不对等，信任者承担了大部分风险，作为把问题所有权交出去的代价。

如何建立信任？我把信任看作是一系列一致判断不断累积的结果，这些判断源自对事实的结构化推断（姑且说是贝叶斯式的推断）。从实践角度看，累积之所以重要，是因为信任是建立起来的，而不是凭空给予的：要交出控制权，你希望尽可能多地积累信心（从统计学角度甚至可以说，希望有足够把握相信收益大于风险）。为此，你需要数据，尽可能多地收集数据，还需要大量实验，来为你的内在推断引擎提供燃料。

信任不是原子式的：尽管它指向一个有限、有界的实体（一位同事、一个政府、一个机构），信任并不会普适地给出（有些东西可以，我们稍后会看到为什么那是另一回事）。这是因为信任总是与行动绑定：它是一份针对某项任务行使的隐性契约。双方都受结果约束，尽管其中一方承担更多失败的重担。关键词是任务，而不是对象：我信任我女儿能自己调好一份油醋汁，但我不信任她一开始就能挑对食材。同一个对象，不同的任务，信任程度不同。我说信任与行动绑定，是因为这在语法上就有所体现：trust 是一个动词。“I trust you”清楚地表达了主体对客体的委托。法语里更明显：“Je te fais confiance.”

但你也会经常听到另一种说法：“J'ai confiance en toi”（我找不到对应的地道英文翻译，“I have faith in you”大概最接近）。这不是我们 tentative 定义所追求的东西。对某人抱有信仰（faith）是一种放任自流，而不是部分交出控制权。你是自愿放弃判断，把自己完全交到对象手中，没有任何制衡手段。这也会损害关系，使关系变得无关紧要甚至形同虚设：既然信仰是普适给出的，就不会对结果有任何期待，唯一可能的结局就是在它第一次被打破的那一刻迎来失望。它是二元的，像一道闸门：有信仰，或没有信仰。

定义厘清之后，回到眼前的问题：把对 LLM 的信任看作一种动态关系，建立在从可用数据点推断出的判断之上。我目前的做法——虽然现在是周六晚上，我还没来得及深入钻研——大概是这样的。我并没有信心（是的）声称这是黄金标准；这只是我会采用的结构。

目标，也是这篇文章的全部要点，就是建立信任。

我们能收集哪些 LLM 无法污染的数据点？我们拥有哪些不来自 agent 的事实来源？

本质上就是：你的经验和直觉、亲自运行程序、以及独立重写它。步骤如下：

在这个阶段，我应该对这门语言及其语法有了更好的理解——通过消化语法规则、写几个简单程序、阅读测试、梳理程序流程。由此我已经可以形成一些判断：这个 agent 是否校准良好？当它对代码的某些部分不确定时，是否会主动提示或提出疑问？在多次工作会话中，它对语言规范的表述是否保持一致？一个能意识到自己缺乏上下文或训练数据来妥善回答问题的 agent，比做不到这一点的 agent 更值得信任。

这里的判断并不是要把这门语言和我钟爱的语言比较优劣。问题仍然是：我能否信任这个 agent 作为陪练，帮助我演进和维护的不仅是程序，还有这门语言本身。（一上来就想着干脆换成 Python 或某某语言，那就破坏了这个思想实验的意义。）

信任的美妙之处在于：虽然建立起来需要时间，但它对失败有韧性——信任可以重建。而信仰则是完整地给出，完整地失去。

就像调油醋汁一样，一开始要盯着每一个动作、每一次计量。大量的观察。然后你逐步交出部分控制权。交出部分控制权，是在限定空间内行使的自主权。交出全部控制权，则是牵着 agent 的手一起跳入虚空。我提供食材，因为任务仅限于做油醋汁；自主性在那个目标的框架内施展。但我也提供厨房、器具、一个干净安全的环境，以及最后一杯新鲜的苹果汁。自主性存在于边界之内，在边界之外的事情不需要对象操心——那些已被妥善处理，无需它介入。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）