软件开发者撰文系统梳理反对生成式AI的理由

我从不掩饰自己对当前生成式“AI”热潮的反感。我尽可能避免使用它，多年来也一直公开表达自己的理由。但我常常觉得有必要把所有论点汇集到一处，而不是散落在社交媒体上的几十条帖子里。这篇文章就是那个合集。我会逐一梳理反对生成式“AI”的主要理由，回应支持者常提出的几个流行说法，并在过程中提供可供进一步阅读的来源。

各节之间基本相互独立，欢迎跳过目录、只读你感兴趣的部分。

我不会深入技术细节，因为那不是本文的重点，我更愿意从更高层面来看问题，以免文章比现在就已经很长的篇幅还要更长，也让非技术专家也能读懂。

我也先把自己的底牌亮出来：我在软件开发行业工作了大约15年，前后使用过多种语言，累计编程经验约25年。我在搜索引擎上做过大量工作，也偶尔自己实现过神经网络。目前我正在完成心理学学位，并以统计学为题写毕业论文。说这些只是让你知道我的背景。

人们说“AI”时往往含义并不明确，尤其是那些对该领域有一定了解、知道一些更具体术语的人。所以在继续之前，我想先厘清一些术语。就本文而言——我认为也是大多数非专业人士的口语用法——“AI”指的是根据文本提示生成文本、图像或其他媒体的生成式系统，以及由它们衍生出来的系统，比如“AI智能体”。

截至撰写本文的2026年，人工智能这个术语已经流传了半个多世纪。各种截然不同的技术都曾被冠以这个名号。20世纪50年代和60年代，实现形式逻辑的系统是当时的重大赌注。那些努力被证明是死胡同之后，出现了“AI寒冬”，随后所谓的“专家系统”成了20世纪80年代的热潮。而现在，我们正看到人工神经网络的大复兴——这项技术几十年前被认为用途有限，但当它与过去无法想象或难以投入使用的海量数据和算力结合时，却展现出相当强大的能力。

神经网络在适应复杂数据集中的统计模式方面相当出色。一个著名的入门例子是相对简单的网络，在训练数据充足（大量已正确标注的手写数字样本）的情况下，能以惊人的准确率识别手写数字。神经网络应用广泛，可以对各种现实世界问题进行建模。

神经网络构成了如今所谓大语言模型（LLM）的基础，而LLM正是当前“AI”热潮的核心，更具体地说是生成式预训练变换器（也就是ChatGPT里的GPT）。LLM是人类语言的统计模型。它们编码了词语按顺序出现的概率，给定一个输入的词序列（称为提示），它们就能推断（预测）接下来可能出现的词。一个简单的版本就是现代智能手机上的预测输入：你打字时，它会显示一列可能的候选词来加快输入。你输入“appo”，它很可能猜你想打“appointment”，于是给你一个快捷方式。驱动ChatGPT或Claude等流行聊天机器人的LLM是这种东西的超级增强版，不只是根据前几次击键来推断，而是根据相当长的提示来推断。不过，它们每次仍然只预测很小一段文本，然后就需要重复整个过程，把新输出连同之前的提示一起重新喂回系统。

有一个流行的误解，认为LLM会“记住”你的聊天记录，提示始终只是你发送的最新一条消息，但事实并非如此。提示就是整段对话。每发一条新消息，整段对话都会被喂给LLM。把聊天记录放进提示有助于让模型“不跑题”，否则这些东西很容易漂到别的话题上去。但这也有局限。LLM能接收的提示有最大长度限制，这被称为上下文窗口。超出上下文窗口允许范围的内容就不再是提示的一部分了。

基于LLM的商业服务发展几年后，目前最新最火的是“AI智能体”——顾名思义，据称这类系统具有能动性，能根据用户设定的初始任务自主行动。至少推销话术是这么说的。普通LLM聊天界面或许能回答用户的问题或完成文本摘要之类的事情，而“智能体”则 supposed to 执行更复杂的任务，比如“预订下周末去柏林的旅行，外加一间供两位成人入住的酒店房间”。

这听起来像是一种与普通LLM截然不同的全新技术，但并不是。智能体基本上只是一个程序，它反复向LLM发送提示，并根据其输出执行各种可供调用的功能，这些功能通常被称为工具。工具可以是执行网络搜索、通过Paypal账户付款、发送电子邮件等等。“AI”那部分仍然是一个LLM，基本上就是你也可以直接通过聊天界面交互的那个。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）