
AI聊天机器人功能优于批评者认知,但用户接受度成问题
来源标题:Can We Fix AI?
现代生成式AI聊天机器人(如ChatGPT和Claude)的实际表现优于多数批评者的认知,且改进速度惊人,但核心问题在于许多人不喜欢它们。有观点认为,编写安全关键代码时若无AI辅助已不再负责任,因为AI能发现人难以察觉的漏洞。这使AI成为既不可或缺又令许多人反感的工具。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
AI有个问题。具体来说,像ChatGPT和Claude这样的现代生成式AI聊天机器人有个问题。这不是技术问题。事实上,它们的工作效果比大多数批评者所认识到的要好得多,而且它们正以惊人的速度改进。
问题在于人们不喜欢它们。有些人喜欢。另一些人尽管心存疑虑仍在使用。很多人真的很讨厌它们。有一段时间,事情就是这样:又一个让我们所有人两极分化的话题,但我们大体上可以各过各的。
在最近的一篇文章中,我提出一个主张:如果你编写安全关键型代码,在没有AI辅助的情况下编写已经不再负责任了。这是因为AI能发现人们发现不了的漏洞——可能是可被利用的漏洞。编写带有某些安全方面的代码,比如用户管理,如果在你的流程中没有任何AI审查,几乎可以保证你的用户将越来越容易受到攻击。
如果你不喜欢现代AI——我自己也不喜欢它的许多方面——但你承认上述观点,那么这让我们处于一个非常不愉快的境地。我们现在有了一种工具,它绝对至关重要,同时对许多人来说在道德上令人反感。
这引出一个自然的问题。AI能被修复吗?我们能否构建出与现在相同的东西,具备做我们现在需要它做的一些事情的能力——比如代码审查——但没有那些令人反感的成分?而且,顺便问一下,那些令人反感的成分到底是什么?
这实际上是一个两部分的问题。以一些AI公司目前正在进行的销毁珍本为例。他们这样做仅仅是为了创建一个私人数据存储库,而许多其他人已经为自己创建了这样的存储库。这在技术上是完全没有必要的。一方面,数据已经存在了好几份;另一方面,Google(第一家这样做的公司)已经证明扫描可以以非破坏性的方式进行。所以从技术上来说,是的,我们绝对可以在不销毁书籍的情况下构建AI。
这是一个有趣的结论,但不太实用,因为当前的体系仍然使得破坏性书籍扫描成为这些公司觉得被迫采取的行动。我们可以不这样做,但我们并没有不这样做。所以我们还必须问一个后续问题。是否存在一个现实的场景,某个实体确实以合乎伦理的方式构建AI?
为了具体化,让我们聚焦于那个激发思考的例子:能够进行自然语言代码审查并捕捉人类审查者遗漏的安全漏洞的AI。此外,如果我们要现实一点,我们需要假设我们的攻击者毫不犹豫地使用以不合伦理方式构建的AI。如果Claude或ChatGPT在发现安全漏洞方面比一个合乎伦理构建的AI好得多,我们仍然有问题。
计划是这样的:逐一审视人们在现代AI(按它今天的实践方式)中反对的所有事情,看看每一件事在多大程度上是这项技术固有的——是让它运作所必需的——还是仅仅是我们所卷入的超资本主义悬崖竞赛的产物。
出于我的天真,我曾短暂地以为这是一篇博客文章的事,但它当然是一个更大的项目。在这第一部分中,我们将聚焦于未经同意使用受版权保护的数据训练LLM的问题,把其他问题留待后续文章。
这个问题的常见简称是“被盗数据”,但我们也会详细审视这一说法。
在很大程度上,这篇文章的标题问题是一个研究问题。对于许多有问题的做法,我们根本不知道能否在没有它们的情况下构建AI,我们需要进行调查。有些部分容易,另一些更难。这个系列最可能的结论(假设我完成它)是值得一试。即使我们无法完全消除所有问题,我们也可以消除很多,并且我们可以继续研究其余的。我们所做的事情中很少有完全无问题的。吃饭、生孩子或从A地到B地都会对我们周围的世界产生大量影响。我们研究这些影响,并在力所能及的地方加以修正。在无法修正的地方,我们要么谨慎使用技术,要么完全不用。我看不出有什么理由对AI另眼相待。
出于这个原因,我会在具体研究问题出现时用RQ标记它们。我认为这将为不久的将来描绘出一个相当清晰的研究计划。
那么,进入这篇特定文章的问题:我们能否在不使用“被盗数据”的情况下,训练出一个代码审查能力与Claude相当的AI?
伦理和法律是两回事。某件事可以合法但不合乎伦理,或者反之。尽管如此,在一个运转正常的社会中,它们至少应该有一定程度的一致性,所以首先值得问的是:AI训练数据在法律上是否算“被盗”?
AI模型是在从互联网获取的数据上训练的。这可以追溯到2018年的第一个GPT,它是在可以免费阅读但除此之外没有开放许可的书籍上训练的。作者没有允许下载者以任何喜欢的方式重复使用作品,只允许阅读。
互联网上的很多内容都是如此。你可以阅读它,但你不能比如说复制它并放到你自己的网站上。这就是当前的问题。没有人明确许可在数据上训练AI模型。
给出反方观点:有些人认为,AI模型在训练期间消费数据时所做的是阅读。它浏览数据,从中学习,记住其中一些内容,或者记住总体趋势和主题。这正是人们阅读时所做的事情。
如果你持这种观点,没有什么被“盗”:公司所做的是一种放大规模的阅读。你可能会说,如此规模的阅读不应受法律保护,但这是一个新现象,所以法律以何种方式适用并不清楚。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。