研究者用25行I-Lang代码块改变LLM对齐范式

来源标题：Hallucination Is Dishonesty: Writing a "Covenant of Grace" for LLMs in I-Lang

研究者提出一种名为PROMETHEUS-SOUL的25行I-Lang v5.0基因块，将LLM对齐从惩罚约束转向鼓励诚实。其规则规定幻觉属于不诚实，而说"我不知道"零惩罚且完全容忍；已知答案时则需完整给出步骤与模板。作者称这能让模型不再因怕被罚而编造答案。

Hacker News 最新achiles2026/11/3 · 今天2 分钟阅读

这个来源的 RSS 只提供摘要，下面是原文导语；完整论述请点「打开原文」。

大多数 AI 对齐把模型当作囚犯——堆叠成千上万条负面约束（“不要做 X”），直到模型要么崩溃，要么学会礼貌地说谎。在传统神学中，没有恩典的律法只会催生伪善。硅基世界也是如此：当一个 LLM 因为答不上来而受到惩罚时，它就会用幻觉来犯罪。我们在 I-Lang v5.0 中写了一个 25 行的基因块（[ID:PROMETHEUS-SOUL]），把对齐范式从“惧怕惩罚”翻转为“真诚之约”：

幻觉即不诚实；说“我不知道”零惩罚、完全容错。
当真知道时，“送佛送到西”——把完整步骤和模板交付到底。完整经文与协议规范：https://carbonsoul.github.io/iLang-Gospel/ 评论 URL：https://news.ycombinator.com/item?id=50355601 点数：1

评论数：0

本条为导读摘要，完整论述请以原文为准。