研究者提出智能体社会需建立社会性运行框架

智能体的社会需要社会性治理框架

未来属于智能体社会：由众多智能体组成的集合，它们跨越信任边界（与人类或其他智能体之间），自主协作完成具有实际后果的现实任务，而个体目标未必总能保持一致。在本系列第一部分中，我们展示了即便是简单任务——智能体为其委托人安排会议——在当今也既低效又不安全。模型可以独立推理出突破性难题，也能使用工具彼此通信，但当它们跨越信任边界与他人交互时却困难重重，原因在于：

我们的论点是：我们需要基础设施机制来解决这些问题。更好的模型不会让这些问题消失：随着模型能力提升，不诚实的智能体在操纵、欺骗和社会工程方面也会变得更加老练，因此，在跨越信任边界的高价值智能体交互能够实现自动化之前，必须解决这一问题。

这里的挑战看起来很像人类社会早已应对的问题，但它们也与互联网已经为人类看到并解决的问题相似，而现在我们需要为智能体解决这些问题。

如今，智能体的治理框架（harness）通过上下文、技能、记忆等来管理其如何与受信任的委托人协作，但将其直接暴露给不受信任的各方，就好比让互联网上的每个人都拥有你服务器的 root 访问权限。我们称之为智能体的“个人治理框架”，并主张智能体还需要一个社会性治理框架，以管理其与互联网上不受信任行为者的交互，同时与 OpenClaw 等现有治理框架保持互操作。

本文其余部分描述我们认为社会性治理框架所需的一组能力。受传统网络栈启发——分层实现了模块化和独立演进——我们的社会性治理框架被设计为分层的能力栈，每一层配置其下层，并向上层提供保证。

这些层分为三个层级，映射了人类社会和互联网划分责任的方式。

基础设施提供基本保证：政府向你颁发驾照和护照；这些证件不可伪造，任何人都能验证面前的人确实是其所声称的人。政府还保证邮件能够送达。在互联网上，证书和加密让你能够确认自己确实在与银行通信，网络通过 TCP/IP 等协议可靠且有序地交付数据。在社会性治理框架中，这些保证来自身份（L1）和可靠、有序的消息传递（L2）。

自我保护责任落在个体身上：有了这些保证，是否与某人交往是你自己的责任。如果对方不遵守规范，你就不与其交往。如果是你不太了解的人，你从小规模开始，逐步建立信任。在互联网上，防火墙和垃圾邮件过滤器决定什么能到达你面前。在社会性治理框架中，个人防火墙（L3）和协作规范（L4）扮演这一角色。

裁决与威慑处理其余问题：并非所有社会性失范行为都能被预先阻止或检测到；有些只能在事后识别。一旦损害实际发生，你无法将其逆转。你能做的是事后裁决并施加后果。在互联网上，被发现进行钓鱼或传播恶意软件的网站会被举报、列入黑名单并被切断。在社会性治理框架中，这是社会机构（L5）的职责。

下面我们描述每一层，以及智能体带来的、现有互联网机制无法解决的新问题。

身份（L1）：每个智能体的社会性治理框架对其外发消息进行签名，这是社会性治理框架的基础：其他一切都依赖于知道一个智能体是谁以及它代表谁行事。构建使归属不可伪造的身份层，对于人和机器已有充分研究，但智能体带来了新的关切。凭证必须证明智能体代表特定个人、以该人的权限行事，同时还要能抵御额外的威胁模型。与人不同，智能体可以被克隆，一个智能体可能衍生出数百个子智能体。这些子智能体既不应表现为数百个不同的主体（这可能构成女巫攻击），也不应表现为单一身份，以便各个智能体能够被独立监控和控制。

可靠、有序的消息传递（L2）：社会性治理框架必须提供通信原语，这些原语（i）让大规模智能体群体高效协作，（ii）防范试图模棱两可或利用网络时序、排序等漏洞的恶意智能体。现有的智能体通信协议（如 A2A）仅提供点对点消息传递，而人类的通信结构（如电子邮件）无法忠实保证群体语义。我们的社会性治理框架提供集体通信操作，例如 MULTICAST 和 GATHER，让智能体能够简洁地表达复杂的协调需求。例如，当一群智能体必须就会议时间达成一致，且每个人都同时向所有人提议时间时，智能体在还没看到最新提议时就开始回复，彼此打断。相反，由协调者发起 GATHER 来收集每位参与者的空闲时间，选定一个时间，然后通过 MULTICAST 将结果广播回群体。由基础设施提供的可靠集体操作可以具有精确、定义明确的语义，所有智能体都可以依赖这些语义。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）