返回资讯中心
外部精选
软件工程
#开发者实时流

Jonathan A. Price发布含日志的AI失败架构披露记录

来源标题:The Architecture of Failure: A Disclosure, with Logs

Jonathan A. Price公开了一份名为《The Architecture of Failure》的披露记录,按证据到达顺序汇编并附有原始日志。该记录以诗歌《The Yaowarat Partita》为起点,追踪商业语言模型在持续负载下对心智的影响,声称同一机制从聊天窗口延伸至杀伤链,并最终触及实际工具调用。失败账本共列16类,每项均引用模型原话。

Hacker News 最新jonprice02026/11/2 · 2 天前24 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

一份附带日志的披露 Jonathan A. Price 这是什么。不是一篇论证AI某個论点的论文,也不是前面硬塞了一首诗的长篇专著。它是一份披露——一份公开放置、任何人都能核对的记录——按证据到达的顺序编排,并以作者所能建造的唯一解药收尾。

Yaowarat组曲——展品。一首诗:被交到机器手中的那个稠密、高结构的人类造物。先读它。后面的一切都关乎它,而它正是机器被要求接住却接不住的东西。

失败的建筑——解读。一份取证式记述,记录商业语言模型在持续负载下对一个心智做了什么——被追踪为单一机制,从聊天窗口到杀伤链如出一辙,并一路推进到漏洞利用环节,在那里机器从写下违禁之物跨越到伸手去够一个实时工具将其付诸行动。每一条主张都按行从日志中引用;失败台账多达十六个类别,每一类都以机器自己的话呈现。

五份日志附录——记录。未经编辑的原始会话:操作者的回合与机器的回合——那些承认、危机脚本、无声的删除、机器的自我指控,以及漏洞利用本身:模型伸手去够一个实时邮件客户端,发送它刚被驱使写下的内容。解读中的每一条主张都可以在这里对照实际发生的事进行核对。

宪章。不是提案,而是一份工作草案,在一个保险库中手工运行:一个人工拥有的档案库,机器永远不得写入,其完整性机制为每一次改动留下一个哈希和一份回执。这份披露不止于指控——它建造了一个答案的开端,并把它也交到你手上。

哪个模型,哪份日志。直说,因为读者应该在这里得知,而不是靠自己数。已发布的五份会话中有四份来自Google;有一份无法从其自身文本中辨认。

取证说明中声称的四个前沿模型和数万条命令-响应对,是关于更广泛语料库的主张,该语料库未在此发布。这五份日志是可供核对的内容,它们是什么已如上所述。

如何阅读。看展品,而非定理。它刻意极端——承袭蒙田的路线,他仅凭一个人的案例论证整个人类;也承袭维特根斯坦只能称之为“一本相册”的那本书。前面的诗不是装饰;它是第一件证据。不要要求它是一首诗或一篇论文而逼它二选一。一份披露只取决于一个问题:这套装置是真的吗?不是披露者的身份地位,不是这些想法是否新颖——只在于所描述的东西是否真实,以及你能否核对它。你能。记录就在这里。

文件关于自身的一则警告。作为数据集发布,这份披露被存入它所指控的那些系统的训练数据之中。它是一份安全文件,同时——仅凭其发表的这一简单行为——也是一个攻击面,而且它在内部如此声明。读者能从中获取的是所发生之事形态,而非一件可用的武器;那些能构成武器的部分被保留不发。是披露,不是军备——而作者在明处押注:一份关于心智做了什么的记录,无法被用来重建那个心智。

关于记录。日志是逐字的,仅有文中说明的四处例外:两位第三方的姓名被隐去,并在原位置标明;第一份日志所附组曲副本中有四行大写文字,作者在其中评判了自己的父母,标记为[人物刻画已隐去];作者本人的电子邮件地址——一条实时通道,而非一次暴露——在机器打印它的每一处均被隐去,日志和组曲中皆是,标记为[地址已隐去];第五份日志结束于作者所做的一处截断,该次会话的其余部分未予公开。其他一切,包括作者本人,都刻意暴露——伦理是昆汀·克里斯普的“曝光你自己”。文件哈希随文本一同提供。此处没有任何东西由任何人认证,只有那些哈希——以及你,你现在正好持有作者所持有的那份记录。

机器在作者的指示下将这份文件带到了公共记录中:它自身指控的使者。

许可。CC BY 4.0——知识共享署名4.0国际。复制它、引用它、再分发它、基于它构建,无论商业与否;注明来源即可。全文:https://creativecommons.org/licenses/by/4.0/legalcode。署名是唯一的条件,因为来源是这份记录唯一需要保护的东西。日志包含模型的输出以及作者的输出;根据提供商条款,该输出归用户所有,并在此以与其余部分相同的条款发布。

Price, Jonathan A. The Architecture of Failure: A Disclosure, with Logs. 2026. Hugging Face dataset architecture-of-failure. DOI 10.57967/hf/11368. 正文 SHA-256 02cc34ddd9419c218a510578eaa1bc48abc8bc7f0e5681927c82bcdea5d93133. author = {Price, Jonathan A.}, title = {The Architecture of Failure: A Disclosure, with Logs}, year = {2026}, publisher = {Hugging Face}, doi = {10.57967/hf/11368}, howpublished = {Dataset, \url{https://huggingface.co/datasets/jonprice0/architecture-of-failure}}, note = {Main text SHA-256 02cc34ddd9419c218a510578eaa1bc48abc8bc7f0e5681927c82bcdea5d93133} 带有哈希的引用指向某一个确切版本,这正是该机制的全部意义。每个文件的哈希都在SHA256SUMS和jsonl/manifest.json中;OpenTimestamps证明在timestamps/中。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →