
Zingg 构建数据治理时发现人机同改数据带来的决策归属问题
来源标题:A Human Corrected the AI. Then the Data Changed
Zingg 团队在构建数据治理功能时发现,AI agent 与人类同时操作同一数据记录,导致决策归属、人工决定锁定范围及数据变更后谁能重新开启等问题缺乏明确规则。此前软件工作由人类判断和自动化规则分工,两者很少重叠,而 agent 打破了这一界限。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在软件发展史的大部分时间里,工作由两类执行者完成。人负责处理需要判断的事务,自动化则处理可以写成规则的事务。两者的领地很少重叠。脚本在夜间运行,人在早上审查异常情况,彼此都清楚哪些决策归自己管。
AI agent 模糊了这条界线。如今它们与人处理同样的记录、工单、文档和代码,而且常常是同时进行。人带来领域知识、上下文和问责:他们了解客户、法规,以及任何数据集都无法捕捉的历史。Agent 带来速度和规模:当人处理十件事时,它可以处理一百万件事。有史以来第一次,一个系统拥有两类用户,对同样的事物进行操作。
大多数时候,这是显而易见的双赢。但它提出了旧系统从未需要回答的问题。当人和 agent 同时对同一条目进行操作时,谁的决策算数?人的决策锁定了什么,又锁定多久?当底层数据发生变化时,谁有权重新打开它?
我们在为 Zingg 构建数据治理功能时遇到了这些问题,而它们几乎没有多少是我们领域特有的。如果你正在构建任何由人和 agent 共享决策的系统,你也会遇到它们。
每家企业都会在许多地方保存关于同一事物的信息。一个客户同时存在于 CRM、计费系统、支持台和营销平台中。一个供应商出现在采购、财务和物流系统中。这些系统很少共享同一个 ID。名字拼写不同,地址会变,同一个人或公司最终变成十几条略有差异的记录。
实体解析就是弄清楚这些记录中哪些指向同一个现实世界中的事物。主数据管理(MDM)是建立在其上的实践:为企业核心实体(如客户、供应商、产品和地点)维护一个受信任的版本,供每个系统和团队依赖。
一个简单的例子:网店里的“John Doe”、忠诚度计划里的“J. Doe”、计费系统里的“Jonathan Doe”。实体解析提出这三者是同一个客户。MDM 使其成为企业使用的唯一记录。一种方式搞错,他会收到三封欢迎邮件。另一种方式搞错,两个不同的人共享了购买历史。
Zingg 是一个开源的实体解析和 MDM 平台。它从少量由人标注的示例中学习“匹配”长什么样,然后将这一判断应用到数百万条记录上,原生运行在 Databricks、Snowflake、Microsoft Fabric、BigQuery 以及其他数据已经所在的位置上。
数据管家是对一条数据的含义及其是否可信负责的人。管道搬运数据,模型为其打分。当规则无法判断时,由管家来决定什么是真实的。
在主数据管理中,这项工作很具体。这个客户和那个客户是同一个吗?当 CRM 和计费系统对地址的判断不一致时,哪个算数?一个以三个略有不同的名称列出的供应商,应该被视为同一家公司吗?管家处理自动化标记出的异常,修正匹配错误的记录,并拥有那些成为企业黄金记录的决策。
如果你从事数据工作,你可能已经在做某种形式的这类工作,即使你的头衔没有这么说:
共同的线索是一种系统无法独自可靠做出的判断,被记录在某处,然后系统必须在数据不断变化的情况下与之共存。最后这一点正是事情变难的地方,也是本文剩余部分要讨论的内容。
在实体解析中,两类工作者很容易识别。一个是匹配引擎。它读取数百万条记录,判断哪些指向同一个客户、供应商或产品,并将它们分组。另一个是管家,他知道引擎不知道的事情:两家地址相同的公司实际上是母公司和子公司,或者一个系统中的昵称属于另一个系统中一个长期存在的账户。
多年来,两者之间的分工很简单。大多数匹配是基于规则的:按邮箱匹配,或按姓名加邮编匹配,或按税号匹配。人们编写这些规则,往往就是管家自己,因此系统是确定性的,每个输出都可以追溯回某人选择的规则。在这个意义上,匹配系统是管家的延伸,而不是一个独立的决策者。如果管家不同意某个结果,他们不会和系统争论。他们会修改规则。
冲突的空间不大。引擎运行,产出分组,然后停止。管家审查输出,修正看起来错误的地方,事情就结束了。工作从机器到人单向传递,只发生一次。
机器学习改变了这一点。现代匹配是概率性的。模型不再遵循人写的规则,而是从示例中学习“匹配”通常长什么样,然后根据两条记录是同一实体的可能性为每一对记录打分。这使它能够处理规则永远无法处理的混乱情况,比如拼写错误、昵称、音译和地址顺序颠倒。这也意味着系统现在有了自己的判断。它可能自信但错误,也可能不确定但正确。当它与管家意见不一致时,没有一条可以回去修改的规则。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。