
Zizkadb 发布垂直 AI 公司可靠智能体系统构建指南
来源标题:How to Build Reliable Agentic AI Systems for Vertical AI Companies
Zizkadb 发布了一份面向垂直 AI 公司的智能体系统构建指南,提出用参考架构和八步构建流程解决智能体可靠性问题。文章指出,垂直 AI 客户来自受监管行业,要求结果可审计,而基于语言模型的智能体本质上是概率性的、无法做到完全确定性,因此目标应是可预测、可观测、可问责。指南涵盖可靠性的定义、参考架构和具体构建步骤。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Agentic 系统设计 Agents Zizkadb 如何为垂直 AI 公司构建可靠的 Agentic AI 系统 Mir Arshad Ali 19 分钟阅读· 2 小时前
用 zizkadb 构建可靠的 agentic 系统 垂直 AI 公司卖的东西比软件更难。它们卖的是结果:一份被正确处理的理赔、一份按时审阅的合同、一份无差错起草的患者记录。它们的客户是受监管行业的企业,而这些客户不会买一个演示。他们买的是一个能向自己的审计人员、董事会和监管机构交代的结果。
对于一个本质上具有概率性的技术来说,这个门槛很高。基于语言模型构建的 agent 不会每天都表现完全一致。它会读到略有不同的输入,检索到不同的记忆,有时还会推理出一个错误答案。对垂直 AI 创始人来说,问题不是如何让 agent 变得确定性——因为你做不到。问题是如何让 agent 变得可靠:可预测到足以信任,可观测到足以纠正,可问责到足以销售。
本指南是一个实用的、分步骤的答案。它涵盖在垂直 AI 业务中“可靠”意味着什么、一套参考架构、八个构建步骤(附少量代码片段),以及医疗、银行和法律科技领域的三个示例用例。随后它讨论如何把可靠性转化为销售资产,以及如何在三十天内完成落地。
我们用于审计层的工具是 ZizkaDB,一个面向 AI agent 的开源因果审计数据库。该方法也适用于其他工具。真正重要的是纪律:记录 agent 读了什么、决定了什么、谁批准了它,并且能够证明记录未被篡改。
关于范围的说明。下面的用例是说明性的综合案例,不是真实客户。代码参数名是示意性的,应对照 SDK 参考文档进行核对。本文不构成法律建议,ZizkaDB 支持记录保存和调查,但本身并不能使任何系统符合 EU AI Act 或任何其他法律。
先从去掉一个词开始。许多垂直 AI 的推介承诺确定性结果。懂 AI 的买家不会相信,懂 AI 的投资者会对此打折。更好的承诺是有边界、可解释、可审计的行为。可靠意味着五件你能演示、而不只是声称的事情。
- 可观测。你能看到每个 agent 对每个客户按顺序做了什么。不只是最终输出,还包括输入、检索到的上下文、工具调用以及中间的决策。
- 可追溯。对于任何输出,你都能反向追溯到塑造它的输入。这就是因果血缘:每个事件都指向导致它的事件。当客户问 agent 为什么这么说时,你用一条链条回答,而不是猜测。
- 有边界。Agent 在你设定的限制内工作:它可以调用哪些工具、可以触碰哪些数据、哪些操作需要人工介入。可靠性部分来自 agent 不被允许做的事情。
- 可度量。你能判断行为何时发生变化。模型会更新,提示词会被编辑,数据会漂移。Agent 漂移是行为中从不触发错误的缓慢变化。如果你无法度量它,你就会从客户那里得知它。
- 可证明。你能证明所发生事情的记录自那以后未被编辑。这就是“我们有日志”和“我们有证据”之间的区别。一个防篡改的记录,受校验和与哈希链保护,才是证据,而一个可变的日志表不是。
注意,这五项都不依赖于模型完美。它们依赖于模型周围的系统。这对垂直 AI 公司是好消息,因为模型周围的系统正是你可以差异化的地方。
水平工具可以容忍一定程度的错误,因为用户会检查答案。垂直 AI 公司通常不能,原因有四。
一次失败,影响众多客户。垂直 AI 公司为许多客户运行同一套系统。一次糟糕的提示词变更、一个退化的模型版本或被污染的数据源,可能同时影响每一个租户。一个错误的爆炸半径很广,而在公司早期失去几个账户就可能改变其发展轨迹。
买家默认持怀疑态度。医疗、银行、国防或法律领域的企业买家会用一份清单来评估供应商的 AI:我们的数据去了哪里、谁能看到、我们如何知道系统做了什么、我们如何审计它。安全问卷和采购审查要求提供证据,而没有证据的供应商会在销售周期中停滞。
受监管行业带来受监管的问题。许多垂直 AI 产品触及高风险领域。EU AI Act 包含对高风险系统的记录保存要求(第 12 条)、人工监督要求(第 14 条)和严重事件报告要求(第 73 条)。某个具体产品是否被涵盖取决于其预期用途和现行规则,你应当就此寻求法律建议。无论怎样,商业要点依然成立:买家现在就会问这些问题。
你是别人风险登记册中的供应商。当你的客户部署你的 agent 时,他们继承了它的失败。他们的法律、风险和安全团队想知道,如果出了问题,他们能够重建它。如果你不能帮助他们做到这一点,他们就会把风险计入交易价格,或者选择一个能做到的竞争对手。
结果是,对垂直 AI 公司来说,可靠性不是工程上的锦上添花。它是产品的一部分,也是销售动作的一部分。
可靠的 agentic 系统具有分层结构。你可以用不同的工具构建每一层,但你需要所有层。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。