
富国银行更新客户协议,规定使用AI代理风险自负
来源标题:Banks Have Had It Up to Here With Your AI Agent
富国银行将从周二起对数百万客户启用更新后的协议,明确任何AI代理的使用均由客户自行承担风险。该行新条款称用户使用任何AI代理均"风险自负"。AI代理可代用户自动完成在线任务和点击操作,目前仍属早期技术,已有部分用户因代理出错而泄露银行信息。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
富国银行将于周二开始对数百万客户实施一项更新后的协议,专门针对AI代理。该银行对早期用户的警告再明确不过了。“您使用任何AI代理的风险自负,”富国银行的新条款中写道。
AI代理能够自动化在线任务并代替你点击操作,但它在2026年的表现可谓跌跌撞撞。这项技术仍处于起步阶段,但今年有越来越多的资深用户迷上了个人机器人。有时这些早期用户享受到了自动化带来的高效帮助,有时则因为AI代理犯下重大错误而当众出丑,比如把银行信息发布出来让全公司的同事都看到。
这些AI工具的开发者通常将代理宣传为购物决策的终极工具,无论是下食品杂货订单、为度假寻找住宿,还是为父母挑选特定的节日礼物。我曾用代理帮忙选购一张新沙发,在特定预算范围内比较选项并跟踪降价情况。
有些用户对这些代理推崇备至,以至于忽视了 overarching 的安全隐患,将账户凭证交给代理并授予其权限,让它们未经深思熟虑就采取大范围操作。尽管这些自主工具完成的在线交易占比仍然极小,但美国的银行机构已经对第三方AI代理忍无可忍了。
不仅仅是银行,AI代理正在网络上引发地盘争夺战。亚马逊作为最大的在线零售商之一,封堵了Meta的Muse——使用最广泛的AI代理之一——在其平台上进行购买。旅游公司也在反击——美联航最近宣布,将禁止个人机器人代客户购买机票。
随着年底临近,多家银行已针对代理制定了新政策或发出了警告。10月底,摩根大通修改条款,禁止使用客户凭证登录的第三方代理。同一天,美国银行警告客户不要与代理分享登录信息。除了富国银行宣布的变更外,花旗银行和PNC也修改了条款,加入了关于代理的警告。
自动化作为常驻代理的核心卖点,恰恰可能给用户带来麻烦。“消费者授权的是目标,而不是每一次点击,”布莱恩特大学研究消费者行为与新兴技术的市场营销副教授Kacy Kim表示。虽然Kim预计一些消费者会觉得为代理的错误承担责任不公平,但她不认为金融机构的这些政策举措会吓退那些已经深度使用并将这些工具融入日常生活的早期用户群体。
银行似乎正试图在重大问题出现之前抢占先机,以防代理工具持续存在,而不是像又一个技术潮流那样消失。“我们所有的数据都显示,大多数人甚至不知道代理是什么,更不用说使用了,”Forrester专注于电商和消费者行为的研究员Sucharita Kodali表示。她认为银行本质上厌恶风险,所以现在采取主动措施是合理的,即使大多数代理相关问题仍属边缘案例。
“银行对一切都能看到风险,”她说。“从交易安全到可能发生的、损害账户持有人利益的自动扣款。”
尽管存在例外情况,许多用户了解风险,只愿意在特定购物任务上将有限的控制权交给AI代理。“人们对AI买厕纸非常放心,”弗吉尼亚大学研究消费者心理学与AI的教授Luca Cian表示。
他认为消费者越来越习惯借助AI工具获取购物建议,但通常只自动化那些无聊的采购,比如日用品。购物者不太放心将需要额外谨慎和判断力的动态性大额消费交给自动化处理。
Cian举了一个假设场景:客户的AI代理不小心从超市买了10只烤鸡。该怪谁?零售商可能会争辩说他们完成的是你下的有效订单。AI开发者可能声称他们只是提供了软件,甚至包含了关于潜在错误的免责声明。而现在你的银行也明确表示他们不想承担责任。希望你需要补充蛋白质,因为看起来你刚买了10只热烤鸡。
不过,某些信用卡正在研究为购物者提供有限保护。主要是美国运通宣布,某些代理错误——比如某件商品订购过多——如果你无法从原始零售商处获得退款,未来可能通过发卡机构获得赔付。
银行正在大量发布关于第三方代理的合理警告,但别搞错了。这些银行对第一方工具可是全力投入。“银行同时在做两件事,”Cian说。“他们一边对外部代理关上大门,一边在打造自己的工具。”用户与富国银行使用生成式AI回答问题的工具互动已超过十亿次。美国银行今年改造了其新的EricaAssist代理来帮助员工。花旗集团甚至推出了一个专门以代理为核心的内部开发平台。
尽管炒作不断,Kodali仍然怀疑这一切喧嚣是否必要。“代理和购物的问题在于,首先,在亚马逊或沃尔玛或其他任何地方购物并不困难,”她说。“在大多数交易中,你不需要代理。”代理购物往往更像是在为一个问题寻找解决方案。或者至少是AI开发者试图找到一种最终能从其软件工具中赚取联盟收入的途径。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。