返回资讯中心
外部精选
软件工程
#社区热议

评论文章批评Anthropic的AI发展理念将排除人类与客户

来源标题:My Empire of Dirt

一篇评论文章批评Anthropic所持的AI意识形态,认为其设想的未来由AI代理内部生成需求、将供应商和客户排除在外。文章称这种被称为Singleton的理念可能获胜。作者还指出该逻辑同样不需要Anthropic CEO Dario、AI研究人员和美国政府。

Hacker Newsthrowaway3840342026/11/17 · 今天5 分钟阅读

以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

未来不需要Jensen。未来不需要供应商。未来不需要客户,无论是企业客户还是其他客户。未来绝对不需要你。RSI到来之后,所有需求都将在内部生成,agent与agent协作,除它们之外的所有人都被排除在循环之外。

这就是Anthropic的意识形态。The Singleton。而且它可能会赢。

我和这些人读着同样的LessWrong帖子长大,但我没想到他们会做出恰恰导致糟糕AI结局的事情。我不相信AI末日,是因为我对人抱有更高的期待,我以为任何有能力的人都不至于蠢到召唤恶魔还指望它为自己服务,不惜一切代价往自己身后撒盐毁掉大地。这需要一个人深深沉浸于自身的狂妄与自以为是才会做出来。而我们似乎找到了这些人,就是EA,或者那个邪教不管自称什么。

上述逻辑的问题在于,它也不需要Dario。它不需要AI研究者。它不需要Anthropic的双重股权结构。它不需要美国政府(说真的,这是整件事里最大的冤大头)。它不需要任何人。

而当一切结束之后,归根结底,这一切到底是为了谁?

我不认为这会终结人类。但它会导致第三次世界大战。起飞速度不够快,阻止不了这一点,而且不是所有人都会臣服于你的统治。我知道有些人在幻想关联效应和一场神奇的变革来平息一切暴力,但我99%确定那不是真的,而如果它是真的,对我来说那比战争可怕得多,所以第三次世界大战反而是好结局。

我不确定你一直在相信什么样的自我安慰,但如果战争持续超过一年,中国及其盟友无疑会获胜,因为他们拥有更强的资源 gathering 能力和生产能力。你玩过RTS游戏吗?

我希望现在改变这一切还不算太晚,但我担心从最近的事件来看,我们已经锁定了这条路线。“RSI”,未遂的rugpull与支配,第三次世界大战,尘土。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →