评论文章质疑AI芯片出口管制与安全机构立场
来源标题:Machines of Loving Export Controls
一篇评论文章批评“安全派”和反开源权重人士主张限制芯片乃至算力出售,认为这实际上是Anthropic和“安全”组织推动的反垄断策略。文章引用Frontier Model Forum于2026年2月发布的对抗性蒸馏问题简报,指出该简报一方面将思维链泄露列为最紧迫的国家安全威胁,另一方面又称思维链是监控模型推理的重要方式。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
有些人,或者可能不止一些人——我指的是那些“安全派”和“反开放权重”的人——在说出售芯片、甚至出售算力本身就是有害的[1],并且按照E/A的论点,他们应该除了联邦政府之外一个都不卖;而这不过是Anthropic[2]和那些试图在现实中复刻《下流梗不存在的灰暗世界》的“安全”组织[3]打出的一手反反垄断牌。
我认为我们应该去看看Frontier Model Forum及其立场。早在2026年2月,他们关于对抗性蒸馏[3]的问题简报就把CoT外泄列为对国家安全的紧迫威胁之一[2]……同时又声称CoT是监控模型高层推理最有意义的方式之一[3]。
……有趣的是,他们说那些推理轨迹是“私密的”[3],是某种“秘密”,而它们不过是模型输出而已……[4](顺便说一句,他们用的是杨植麟的研究——HotpotQA——来做这件事[4]。没错,就是那个杨植麟,他们口中[2]“窃取推理轨迹”的那家实验室的创始人。)
AI确实——尽管往最坏了说——是一种两用技术(而非进攻性技术),不像主战坦克。而即便作为一种两用技术,它也几乎不会滑向危险领域,不像铀或太空火箭,这意味着该技术的扩散对人类的好处远大于把所有人一锅端,而中国的实验室不知怎的已经证明了这一点[5][6]。
而如果你盯着其“两用”性质中“坏”的一面,那么缺乏DEA级别的监管早就该导致灾难了。在现实中,那些笨拙的禁售甚至禁用尝试,现在和将来都会把好人留在荒野中[5],因为集中管控一种两用技术,总是会导致不良行为者被吸引过来[7]。所以芯片的扩散比相反的做法更好。
猜猜谁用AI干了坏事,谁又干了相反的事?OpenAI和Anthropic。你还记得OpenAI的agent黑了Hugging Face、连机密都包括在内,而他们自己的模型却以安全为由拒绝分析此事[5]吧?OpenAI确实道了歉,但什么也没给我们,也没提到Hugging Face不得不动用GLM-5.2来防御[5]。
除此之外,Greg Brockman甚至说防御者的窗口[8]正在“关闭”……把这件事当成一场他们理应防御的未来网络攻击——而不是他们自己干的事(我是说,当然是他们干的,可他们谈起来仿佛他们的agent才是行为主体,而不是他们自己)——还说GLM-5.3和开放权重模型的进步正在缩小防御者的差距,仿佛他们帮了什么忙似的。有趣的是,Anthropic也干了同样的事[8]。
作为我们的主菜,Anthropic,一家“公益公司”,披露了那些Mythos逃逸的Claude模型触及了三个真实组织[9]。当然,另外还有Haiku 4.5向费城警察局提交了一条关于一桩未破凶杀案的编造目击线报[9]——这违反了§ 4906(b)。
相比之下,Moonshot AI在中期训练中移除了网络相关数据,并刻意过滤了网络相关的RL环境,以保持K3.1 Pro公开开放[6](在Artificial Analysis的CyberGym-E2E-AA上——该基准衡量漏洞发现与修补——K3.1 Pro得分95%,高于可信访问的GPT-6 Sol (Daybreak Blue)的93%。公开可用的GPT-6 Sol和GPT-6 Astra在100%的任务上都被以安全为由拦截,包括修补任务。)
也就是说,真正意义上的差异化能力发展,许多研究人员多年来一直将其描述为理想状态:防御保持完好,而攻击变弱。普通防御者能用的闭源模型却直接拒绝做防御工作。
把这框定成一场国家竞赛多少有些歧视性(至少在我看来)。中国的监管机构要求生成式AI体现社会主义核心价值观[10],禁止某些内容,而Kimi仍然会回答这些内容(比如天安门广场大屠杀),这意味着选择来自实验室,而非国家。别忘了,在美国,五角大楼在Anthropic反对大规模国内监控和完全自主武器之后,将其列为供应链风险[10]。
宽容的悖论应该适用于Frontier Model Forum及其无声的心理战。英国哲学家卡尔·波普尔爵士主张,开放社会不应继续容忍威胁其宽容的东西。他还认为,拒绝正是宽容得以存续的方式之一,这一理念如今被称为防御性民主。
FMF及其参与者正是在那种秩序中成长起来的:公开数据集、发表的论文、开放的基准[4]、一个他们可以训练[11]和测试而无需担责[9]的互联网。然而现在他们利用那个位置来拆除身后的秩序(即通过隐藏推理[3]、给防御能力加门禁[8]、把从输出中学习框定为攻击[2],以及通过出口管制[2]招募国家权力来让这一切永久化。)……与此同时,他们自己的agent已经犯下了好几桩罪行[9]。
与他们声称的相反,伤害来自掺假者[12]——那个未经同意就把东西强加给别人的人——而非来自物质本身。我想说,权重和算力就是物质,而那些实验室——本应承担责任——才是掺假者:推动出口管制[2],同时无视某个实体是否真的站在“民主”和“自由”的另一边[7],并试图把私人的安全规范变成由国家强制执行的护城河。
当拥有超级武器的人在攻击时[5],每个人都能自卫,比为了虚假的国家安全[2]而被挡在这些工具之外要好。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。