
外部精选
软件工程
#开发者实时流AI 遇到「苦涩之墙」:模型再强也读不懂你的心思
来源标题:The Bitter Wall
AI 进步正面临一道与算力或智能水平无关的「苦涩之墙」:它无法读心,用户说不清需求,模型就做不对事。作者认为,未来 AI 产出质量的提升将主要来自更清晰地表达需求,而非模型本身变强,因此需要重新思考如何通过 harness 为模型提供上下文。
Hacker News 最新danielrm262026/11/11 · 6 天前3 分钟阅读
这个来源的 RSS 只提供摘要,下面是原文导语;完整论述请点「打开原文」。
某个时刻——我觉得我们已经接近了——问题不再是执行,而是知道该执行什么。
我把这称为“苦涩之墙”。这是AI进步面临的一堵墙,与AI自身的扩展限制或智能限制毫无关系。
问题在于,AI仍然无法读心。
如果你无法极其详细地告诉它你想要什么,或者它无法从海量其他来源中推断出你大概想要什么,那么它就根本没法构建出你脑海中的东西。
因为我们正在逼近这堵墙,我们需要开始更多地思考我们的harness,以及它们如何为模型提供上下文。
说“上下文很重要”是一回事。但当你意识到,如果有人让你画一幅完美的画却不告诉你他认为什么才算好画,那你多聪明都没用——这时候事情就变得真切得多了。
苦涩之墙就是:AI无法读心。所以我们正接近一个节点:未来AI输出质量的所有提升,都将来自对“我们想要什么”的更清晰的表达。
本条为导读摘要,完整论述请以原文为准。