
Thoughtworks发布11月技术雷达,AI技术占据主导
来源标题:Fragments: November 10
Thoughtworks发布11月技术雷达,汇总了其团队过去六个月在实际项目中使用的技术,AI是本期雷达的主导主题。雷达上AI相关条目数量众多,使趋势脉络难以梳理,Chris Ford撰写了配套的宏观趋势文章。文章还指出,智能体AI从试点转为运营模式后,团队间的上下文共享、token成本、审查需求和权限责任等问题会随之出现。
以下正文由 AI 翻译自 Martin Fowler(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
又到了一年一度 Thoughtworks 技术雷达十一月版发布的时候。我的同事们再次梳理了各团队在实践中使用过的技术,并汇总了过去六个月里涌现的新动向。这半年格外忙碌,人工智能依然占据主导地位,这一点也体现在雷达上众多的 AI 光点上。
光点数量之多,让人很难梳理出一条连贯的趋势脉络,不过 Chris Ford 在配套的宏观趋势文章里写得相当出色。
一小群充满热情的人尝试智能体,几乎什么都能跑通。他们共享同一套背景、一张信用卡和一套心智模型。因为坐在一起,他们会互相审查彼此的工作,也清楚该检查什么、该给编码智能体多大的自由度。
但两百个人就没法这么干了。当智能体 AI 从试点变成一种运营模式的那一刻,第二层问题就会浮现:团队之间如何共享上下文?token 账单是多少?如何应对日益增加的审查需求?智能体被允许访问、读取和修改什么?以及,谁来为所有人依赖的那套 harness 负责?
到目前为止的经验表明,企业面临的问题集中在:共享上下文、token 成本、认知负荷、安全以及平台建设。这些问题虽然各不相同,却并非彼此孤立,因此应对策略必须把它们全部考虑进去。我也赞同 Chris 的提醒:无论这些工具多么令人印象深刻,我们都必须记住,尽管我们需要重新思考系统和流程来利用这些技术,但它们的构建应当服务于人——我们都应当从中受益。
❄ ❄ ❄ ❄ ❄
Ben Thompson 的 Stratechery newsletter 反思了最近选举对数据中心的影响。
我看很多体育比赛,尤其是今年秋天,看了很多棒球。我的密尔沃基酿酒人队——抱歉,是我的世界大赛冠军密尔沃基酿酒人队——需要我全神贯注,这也意味着我看到了大量竞选广告,而至少在威斯康星州,最常见的主题远非数据中心莫属。而且,始终不太清楚它在政治上究竟偏向哪一边:两党都反数据中心,都指责对方立场相反。
他指出,这种反对是近期才出现的,与关注点从互联网和流媒体电影转向 AI 有关:
就是那种最好的情况下会抢走所有人工作、最坏的情况下会终结人类的技术。
关于民主党官员将成为阻挠数据中心建设的核心力量,会有很多讨论,但正如他上面关于竞选广告的观点所表明的,对数据中心的反对(至少目前)是两党共同的反对。
他接着给出了这些后果带来的“十点看法”。反对建设数据中心的最大受益者,将是那些已经建成数据中心的人。反对会减少 token 的供给,意味着 token 成本会上升,从而提高那些已经把 token 生成器插上电、嗡嗡运转的人的利润。
那些不受“必须建设更多大型数据中心”约束的人也能受益。其他国家不受美国政策变化的影响,中国是这里被谈论最多的案例,但并非唯一可能从美国数据中心建设放缓中受益的国家。Apple 也可能受益——如果这意味着更多 AI 工作被推到属于其地盘的边缘设备上,况且它也没有在 AI 专项投资上投入那么多美元。
在他的分析之外,我还要补充一点:这对监管以及企业对监管的态度,也可能产生某种反直觉的影响。人们通常预期企业反对政府监管,因为监管会干扰它们自由追逐利润。这在某种程度上是对的,但也很常见的是,老牌企业会(悄悄地)游说支持那些充当新竞争者壁垒的监管。因此,如果已经建成数据中心的企业推动出台阻碍或阻止新建数据中心的监管,我一点也不会感到意外。
❄ ❄ ❄ ❄ ❄
我长期以来一直是 Hadley Wickham 的粉丝,因为他把相当混乱的 R 编程世界驯服成了一个设计良好的 tidyverse。在我们迈向智能体工程世界的过程中,他是另一位值得倾听的深思熟虑的声音——这一次,他试图弄清楚 token 的真实成本。
我听到很多人怀疑 AI token 的定价不可持续,认为前沿实验室在用风投的钱大量补贴成本。他们想让我们现在上瘾,好随时撤走地毯大赚一笔。这是真的吗?我的感觉是,大体上并非如此。但我能用一些数据来佐证吗?
他的结论是,按每 token 的 API 计价来看,token 成本似乎并没有被大幅补贴,但订阅套餐确实存在补贴。(他给自己的分析加了限定条件,说没有把收回模型训练成本考虑在内。)
❄ ❄ ❄ ❄ ❄
一想到模型聪明到可以编辑模型的权重,就有一种令人不安的兴奋——Takehi 等人把这种活动称为 Weight-Space Programming。
仅仅通过观察原始权重,GPT-6 Astra 就能判断出一个网络是被训练来做什么的。而且在没有任何环境反馈的情况下,它也能毫不费力地从零编写出小型游戏对战网络,其表现胜过用 PPO 训练了一亿步的网络。
虽然我们不知道是否有一天能直接把技能下载到大脑里(“我会功夫”——或者对我这个特定年龄段的人来说:Joe 90),但这确实提出了通过操纵权重把能力下载到模型中的可能性。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。