
exec-sandbox 在本地 QEMU 微虚拟机中隔离运行 AI 生成的不可信代码
来源标题:Linux sandboxes from S3. 93-99% cheaper than always on for AI Agents.
exec-sandbox 可在用户自己的 Linux 或 macOS 主机上,通过 QEMU 微虚拟机运行不可信的 Python、JavaScript 或 shell 代码,例如 AI agent 生成的代码。它提供 Python asyncio 库和命令行工具 sbx,无需云账号和 API key。该项目称,相比始终在线的方案,其成本可降低 93% 至 99%。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
exec-sandbox 在你自己的 Linux 或 macOS 主机上,用 QEMU microVM 运行不受信任的 Python、JavaScript 或 shell 代码,比如 AI agent 写出来的代码。它是一个 Python asyncio 库,带一个命令行工具(sbx)。不需要云账号,也不需要 API key。 import asyncio from exec_sandbox import Language, Scheduler, VmSpec async def main() -> None: async with Scheduler() as scheduler:
Language.PYTHON, Language.JAVASCRIPT or Language.RAW
async with await scheduler.new(VmSpec(language=Language.PYTHON)) as session: result = await session.exec("print('Hello from a secure VM!')") print(result.stdout) # Hello from a secure VM! print(result.exit_code) # 0 asyncio.run(main()) 其余 Python 示例在顶层使用了 async with 和 await:要把它们放进 async def 函数里运行,就像上面的 main() 那样。 开始:功能 · 安装 · 快速上手 · 关键术语 使用:会话 · 文件 · 软件包 · 网络 · 已保存实例 · 配置 · 错误与恢复 运维:性能 · 缓存与磁盘占用 · VM 镜像与离线使用 · Linux 主机配置 · 实例存储操作 参考:CLI 参考 · API 参考 · 限制 · 客户机环境 内部实现:工作原理 · 安全性 · 参与贡献 · 许可证 功能 硬件隔离。每个会话运行在自己的 QEMU VM 中,而不是容器中,并启用 KVM 或 HVF 加速。隔离层级最多可达 8 层(安全性)。 快速启动。从预热池启动不到 1 ms,从 L1 内存快照启动约 50-60 ms。L2 磁盘快照保留已安装的软件包,L3 通过 S3 在所有主机间共享这些快照(性能)。 自托管。首次使用会从 GitHub Releases 下载 VM 镜像。对于无法访问互联网的主机,使用 sbx prefetch。 Python API 和 CLI。可以一次性运行代码,也可以分多步运行,支持流式输出 stdout 和 stderr,并读写文件。 已保存实例。save() 会把 VM 的 RAM、进程和 /home/user 加密写入 S3 或本地文件夹。reuse() 之后可以在同一主机类型的任意 worker 上继续使用它。 网络控制。默认无网络访问。可按 spec 设置域名允许列表,通过 DNS 过滤和 TLS SNI 检查来校验。 内存密度。客户机内使用 zram。在 Linux 上,使用 KSM 页面合并,并对空闲的预热池 VM 进行内存回收。 安装 Python:3.12、3.13、3.14(包括 free-threaded 版本)。 操作系统:Linux 或 macOS,x64 或 arm64。在 Windows 上请使用 WSL2(在原生 Windows 上,import exec_sandbox 会抛出 ConfigError PLATFORM_UNSUPPORTED)。 QEMU:L1 内存快照和已保存实例需要 11.0+;其余功能需要 8.0+。没有 KVM 或 HVF 的 ARM64 需要 9.0.4+。 硬件加速:KVM(Linux)或 HVF(macOS),推荐使用(约快 5-8 倍)。 带 KVM 或 HVF 的 x86 CPU:x86-64-v3(Intel Haswell、AMD Zen 1 或更新)。在不支持该指令集的 CPU 上,Scheduler 启动会抛出 ConfigError HOST_DEPENDENCY,并列出缺失的特性。TCG 可在任何 x86 CPU 上运行。 安装软件包 uv add exec-sandbox # 核心库 uv add "exec-sandbox[cli]" # + sbx 命令行和本地实例存储 uv add "exec-sandbox[s3]" # + L3 快照缓存和 s3 实例存储(以及本地存储) 用 pip 时,使用相同名称的 pip install。要在 sbx 中使用 s3 存储,安装 exec-sandbox[cli,s3]。 brew install qemu # macOS apt install qemu-system qemu-utils # Ubuntu/Debian test -r /dev/kvm -a -w /dev/kvm && echo ok # Linux:输出 ok 表示你的用户可以访问 KVM sysctl kern.hv_support # macOS:kern.hv_support: 1 表示 HVF 可用 exec-sandbox 优先从 /usr/bin/ 使用 qemu-system-x86_64 或 qemu-system-aarch64,否则从 PATH 中查找(EXEC_SANDBOX_QEMU_BIN_X86 和 EXEC_SANDBOX_QEMU_BIN_ARM 可以指定其他文件),并从 PATH 中查找 qemu-img 和 qemu-storage-daemon。缺少 QEMU 可执行文件,或该用户无法读取其版本或机器类型时,Scheduler 启动会抛出 ConfigError(HOST_DEPENDENCY);缺少 qemu-img 则在首次使用时抛出。用 /usr/bin/qemu-system-x86_64 --version(或 qemu-system-aarch64)检查版本:Ubuntu 24.04 自带 8.2.2。已保存实例和 L1 快照需要 QEMU 11.0 或更高版本:如果发行版自带的是更旧的版本,请从源码发布版(qemu.org/download)构建 QEMU,并将 EXEC_SANDBOX_QEMU_BIN_X86 或 EXEC_SANDBOX_QEMU_BIN_ARM 指向该可执行文件。 在 Linux 上,用 sudo usermod -aG kvm $USER 给你的用户授予 KVM 访问权限,然后重新登录。没有该权限时,exec-sandbox 会记录一条警告并使用 TCG。要以独立用户身份运行 QEMU,并配合 cgroup 限制和命名空间,请参阅 Linux 主机配置。 首次运行会下载 VM 镜像(镜像下载方式)。Python 用法请参阅顶部的示例和会话。sbx 随 cli extra 一起提供;其所有选项见 CLI 参考。 sbx run 'print("Hello from sandbox")' # Python sbx run -l javascript 'console.log("Hello from sandbox")' # JavaScript sbx run script.py # 一个文件:扩展名决定语言 sbx run -p pandas==3.0.1 'import pandas; print(pandas.version)' # 带软件包 sbx run --network --allow-domain api.example.com fetch_data.py # 网络,带允许列表 sbx run --instance my-vm -c 'x = 41' # 保留 VM 状态(已保存实例) sbx run --instance my-vm -c 'print(x + 1)' # 42 关键术语 术语 含义 Spec 一个 VmSpec:VM 由什么构成(VmSpec) REPL VM 中运行你的代码的解释器 会话 运行你的代码的一个 VM:new() 或 reuse() 提供它,close() 结束该 VM(会话) 已保存实例 save() 存储的会话状态(RAM、进程、/home/user 中的文件):reuse() 可以在同一主机类型的任意 worker 上继续使用它(已保存实例) 预热池 在请求之前就启动好的 VM(预热池) L1、L2、L3 快照缓存:内存快照、带已安装软件包的磁盘快照,以及 L2 在 S3 中的副本(快照缓存)。它让新 VM 启动更快;其中不保存已保存实例 实例存储 已保存实例存放的位置:你的 S3 桶(s3)或本主机上的文件夹(local)(选择存储) 代 实例的保存编号:1,然后每次保存加 1 Head 存储中指明实例当前状态的对象 VM 镜像
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。