
文章探讨AI代理访问网站带来的身份与问责难题
来源标题:Agents aren't humans (but they kinda are)
AI代理正代表数百万用户在网络上执行任务,但网站难以识别其背后的真实用户,出问题时成本由网站承担。文章指出,要让网站最大化向代理开放访问,生态需建立身份、声誉和问责三项新机制,以维系网站与用户的关系。Meta的Muse和OpenAI的dots被列为个人AI代理的实例。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
AI Agent 如今正代表数百万用户在网络上行动。对网站而言,Agent 可能以多种形态出现:它可能与执行任务的人类用户毫无区别,也可能看起来像一个访客代表了许多用户。这就使网站失去了识别、服务并追究 Agent 背后用户的能力,一旦出问题,成本却由网站承担。本文认为,为了让网站尽可能向 Agent 开放访问,整个生态必须发展出新的机制,来维系网站与用户之间的关系。在安全与反欺诈领域,传统上这需要三样东西:身份、声誉和问责,使网站能够回答:行动者对其身份的陈述是否属实?这个人是否可信?谁来为这一行为负责?
“个人 AI Agent”(简称“Agent”)是一种自动化程序,它接受人类(“用户”)的指令,通过操控云端计算机或浏览器来追求某个目标。它们通常由“运营方”托管和维护,作为托管服务或消费级产品的一部分。例如 Meta 的 Muse 和 OpenAI 的 dots,而且新的产品层出不穷。Agent 有可能在网上采取其用户能采取的任何行动,且不受限制人类的那些约束。它们不会疲倦,全天候运行,可以并行行动,也能忍受任何人都不愿忍受的摩擦。网络的许多方面——从网站如何规划容量到如何盈利——都建立在这些限制之上。
从根本上说,远程托管的 Agent 是中介。中介是任何位于用户与网站之间的东西,网站看到的是它而不是用户。Agent 是最新的一类中介,但中介早已存在。云浏览器(由软件代表用户控制的托管浏览器)和代理服务(中继用户流量的服务,包括 VPN)也是中介。变化的是趋势。Agent 流量正在快速增长,可能在不久的将来超过互联网上的传统人类浏览。这迫使当今所有运营网站的人重新审视。历史上,网站可以简单地封禁中介流量,要求用户关闭中介服务。但当大部分流量都来自 Agent 时,这种做法就失效了。一旦封禁不再可行,网站运营者就面临中介一直造成的问题:网站失去了关于用户的直接信息,必须在没有这些信息的情况下决定是否信任中介。
本文讨论的是托管在用户设备以外某处的 Agent。本地 Agent(例如 OpenClaw)或运行在用户自己浏览器、自己设备上的 Agent,不属于本文主要讨论的范围(参见下文“关于开源与本地 Agent”)。
中介原则:用户与网站之间的业务关系,以及各参与方的安全责任,无论是否存在中介,都必须得到维护。
网站需要新的工具,来识别、服务并追究通过 Agent 行动的用户,就像该用户直接访问时一样。Agent 及其背后的运营方也必须可识别、可问责,因为 Agent 能做到用户做不到的事。Agent 几乎可以无限制地扩展人类访问,因此它们带来了新的风险,即便是此前无害的行为也是如此。
认识一下 Ezra。Ezra 为她所在城市的人们做私人助理。她最好的客户是当地一位 CEO Amy,但她也为 Bob、Charlie 和 Debra 工作。她替他们跑腿:买菜、预约、办文件、订机票。Ezra 融入人群,毫不起眼。
街角杂货店的老板以前认识 Amy。他知道她买什么,会把她可能喜欢的东西留出来。现在只有 Ezra 来店里,带着四个人的订单,老板分不清谁是谁的偏好。他不想把 Ezra 拒之门外,因为她给他带来了很多生意。
然后 Bob 让 Ezra 给他买一部 iPhone。一周后,他打电话给商店,说自己从未授权这笔消费,并留下了手机。为了赢得争议,商店必须证明是 Bob 要求购买的。但商店唯一见过的人是 Ezra。
接着 Charlie 给了 Ezra 一串密码:“我忘了我的,但肯定是其中之一。”Ezra 耐心地在 Charlie 的银行逐个尝试。银行能看出正在发生攻击,但它唯一能封禁的人是 Ezra。封禁 Ezra 也就封禁了 Amy、Bob 和 Debra。
这些商家没有谁对 Ezra 本人有意见。他们的问题是只能看到 Ezra,看不到她代表的那个人。把 Ezra 换成 AI Agent,把商家换成网站,就是今天的网络。
网站所有者希望有足够的可见性,既能防止不良行为,又能有效地变现或从网站获取价值。但正如 Ezra 的例子,有了 AI Agent,大部分可见性都消失了。以下列出网站所有者可能想要处理的一些事项——它们过去已经解决,但允许 Agent 访问后变得更加棘手。
网站必须满足法律要求,核实其用户的信息。例如,一些网站有年龄或地域限制。
Agent 无法提供足以让网站保持合规的保证——如果网站允许 Agent 访问的话。
友好欺诈是指用户批准了 Agent 的购买,然后以未经授权为由提出争议。网站可能靠间接证据获胜:与用户过去无争议购买相同的设备、IP 和地址。Agent 的购买来自 Agent 的基础设施,因此这些证据并不存在。即使网站胜诉,争议本身也要花钱。
网站需要保留结账行为的记录,用于反欺诈。保留这些记录有助于网站减少额外验证带来的整体摩擦,降低交易拒绝率,并总体上提高结账数量。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。