评论文章批评Anthropic推动AI取代人类需求
来源标题:My Empire of Dirt
一篇评论文章批评Anthropic所持的意识形态,认为其追求在RSI到来后由AI代理内部生成全部需求、将供应商和客户排除在外的目标。文章称这一逻辑最终连Dario、AI研究员和美国政府都不需要,并批评这种自我膨胀的路线可能带来糟糕的AI结果。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
未来不需要Jensen。未来不需要供应商。未来不需要客户,无论是企业客户还是其他客户。未来绝对不需要你。RSI到来之后,所有需求都将在内部生成,agent与agent协同工作,除它们之外的所有人都被排除在循环之外。
这就是Anthropic的意识形态。The Singleton。而且它可能会赢。
我和这些人读着同样的LessWrong帖子长大,但我没想到他们会做出那种恰恰导致坏AI结局的事情。我不相信AI末日,因为我以为人没那么蠢,我以为任何有能力的人都不至于蠢到召唤恶魔还指望它为自己服务,竭尽所能地往自己身后的土地上撒盐。只有那种深深沉浸于自身宏大与自以为是的人才会这么干。而我们似乎就在EA——或者不管那个邪教自称什么——身上找到了这些人。
上述逻辑的问题在于,它也不需要Dario。它不需要AI研究者。它不需要Anthropic的双重股权结构。它不需要美国政府(说真的,这局面里最大的冤大头)。它不需要任何人。
而等这一切完成,说到底,这一切到底是为了谁?
我不认为这会终结人类。但它会导向第三次世界大战。起飞速度不够快,阻止不了这件事,而且不是所有人都会臣服于你的统治。我知道有些人在幻想Correlation Effect和某种神奇的Change降临来平息一切暴力,但我99%确定那不是真的,而如果是真的,对我来说那比战争可怕得多,所以第三次世界大战反而是好结局。
我不知道你一直在信什么自我安慰的说法,但如果战争持续超过一年,中国及其盟友无疑会凭借更优越的资源动员和生产能力获胜。你玩过RTS游戏吗?
我希望现在改变这一切还不算太晚,但近来的事让我担心,我们已经被锁死在这条路上了。“RSI”,未遂的rugpull与支配,第三次世界大战,尘土。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。