返回资讯中心
外部精选
软件工程
#开发者实时流

Kelsey Piper讨论AI时代下家长对子女未来的困惑

来源标题:What happens if we build it and nobody dies?

Kelsey Piper撰文指出,随着AI讨论渗透到日常育儿场景,家长们越来越不确定孩子未来将进入怎样的经济环境。她对比了线上关于

Hacker News 最新ForHackernews2026/11/17 · 今天10 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Kelsey Piper 2026年11月17日 74 5 14 分享 如今在游乐场上,AI 被提起的次数越来越多。(插图:The Argument 使用 ChatGPT 制作;照片:Bettmann/Getty Images) 过去,我的线上生活和线下生活截然不同。在线上,我与一些人通信,他们制作的图表和示意图表明,奇点将在我们有生之年发生,大约五年后,我们的世界将变得面目全非。不止一次有人告诉我,只要它不把我们弄死,那感觉就像是踏进一台时间机器——某天醒来已是 2200 年,身处一个几乎没有任何事物保持不变的世界。 在线下,与我交谈的人大多认为,一切基本会维持原样。像我这样的父母操心该把孩子送进哪所初中和高中,并为大学录取的事彼此诉苦。我们觉得自己得一直干到退休,还要为下一代做好准备,让他们能在自己的工作中取得成功。 但如今在游乐场上,AI 被提起的次数越来越多。人们会紧张地咯咯一笑,坦白说:我不知道我的孩子毕业时会进入什么样的经济环境。我甚至不知道我们在这里究竟想做什么。 如果你一心想让孩子过上好日子,那么当你意识到自己完全不知道 15 年后“过上好日子”意味着什么时——而且即便未来 15 年一切顺利,你对此依然一无所知——这会让人感到不安。 我们暂且放下这种恐惧:OpenAI 和 Anthropic 这样的公司会让它们的 AI 去构建更强大的 AI,且不受监督,直到我们造出一个无意为我们工作的机器之神。我们不妨设想,通过政策、运气和技术突破的某种组合,坏结果都被避免了:没有与中国的战争,没有主权 AI 成功发动推翻世界各国政府的政变,没有突如其来的瘟疫消灭 AI 的人类竞争者。换句话说,我们实现了超级智能——在这种情形下,通用 AI 几乎能在每一项任务上做得比人更好——并且我们找到了让它保持良性的办法。 “令我震惊的是,即便是一些最乐观的情景,能提供的安慰也少得可怜,”生物学研究者、偶尔观察硅谷的 Ruxandra Teslo 在最近的一篇文章中写道。“一个常见且表面上乐观的愿景被称为‘交接’:人类把自己未来的控制权让渡给一个神一般的 AI,我们则成为一个方向不再由我们决定的文明中生活安逸的居民。” 有些人对追求这一结果感到兴奋。“如果我们真的造出了一个神一般的 AI,并且我们自己满意地认定它完全对齐,那我宁愿让它为自己、为人类选择自己的方向,也不愿让它受美国总统的控制,”Scott Alexander 在为交接主义辩护时写道。另一些人则更为警惕,但认为某种形式的交接不可避免——Teslo 引用领先 AI 实验室一位研究者的话说:“我看不到人类还有任何其他去处。” 但在我看来,这似乎会很糟糕。 更重要的是,我认为我们本可以做得好得多。如果 AI 变得如研究者所相信的那样强大,我们应当能够用它来建造一个我们真心渴望生活在其中的世界,而不是一个我们无奈接受的世界。未来学家所设想的世界,是 GDP 迅速增长一百倍甚至一千倍——然而我们大多数人却没什么可期待的。 大多数人觉得,那种把我们上传到计算机上、让我们永生的未来学设想,介于令人不安和令人恐惧之间;即便我们中那些能坦然接受这一点的人,也只需再往前走几步,就能找到让自己感到不安和恐惧的东西。对我来说,最令人痛苦的想法是这样一个世界:我努力培养的一切美德都无足轻重,我无法给孩子任何有意义的指引,因为他们面临的挑战和选择,我无一能够理解。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →