
开源项目 epochnbd:把 GCS 或 Google Drive 变成崩溃一致的 Linux NBD 块设备
来源标题:Show HN: Epochnbd – Crash-Consistent Linux NBD Block Device on GCS/Google Drive
开发者发布个人实验项目 epochnbd,用纯 Go 实现的 Linux NBD 引擎把 Google Cloud Storage、Google Drive 或本地目录映射为真正的 POSIX 裸块设备(/dev/nbdX 或 TCP NBD 导出)。它带有本地稀疏缓存、CRC32 校验的预写日志(WAL)和原子 Compare-And-Swap 纪元检查点,主打崩溃一致性。作者强调这是业余项目,按「原样」提供、不承担数据丢失等责任。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
免责声明——实验性业余项目(使用风险自负) epochnbd 是一个用 Gemini Argon 开发的个人业余项目。本项目按“原样”提供,不附带任何形式的保证。存储引擎和内核块设备本身存在缺陷、数据损坏或云账单意外等固有风险。使用本软件的风险完全由您自行承担——请务必对重要数据保留独立备份。对于因使用本软件而导致的任何数据丢失、损坏、系统不稳定或其他损害,作者不承担任何责任或义务。 epochnbd 是一个纯 Go(CGO_ENABLED=0)实现的 Linux 网络块设备(NBD)引擎,它以 Google Cloud Storage(gs://)、Google Drive(gdrive://)或本地目录(file://)作为后端,对外暴露一个真正的 POSIX 裸块设备(/dev/nbdX 或 TCP NBD 导出),并具备本地稀疏缓存、CRC32 校验的预写日志(WAL)以及原子比较并交换(CAS)的 epoch 检查点机制。 与 FUSE 对象存储挂载(gcsfuse、s3fs)不同,epochnbd 严格工作在裸块层: 应用 / SQLite / Git │ ▼ 文件系统(ext4 / xfs / btrfs) ┐ │ │ 可选的用户态 / 内核栈 加密(LUKS2 / VeraCrypt / 无) ┘ (设置 --mount-dir 时自动管理) │ ▼ Linux 内核 /dev/nbd0 │ (NBD_CMD_READ / WRITE / FLUSH / DISC) ▼ ┌─────────────────────────────────────────────────────────────┐ │ epochnbd 守护进程 │ │ │ │ ┌─────────────────────┐ ┌──────────────────────────┐ │ │ │ 稀疏 cache.img │◄────►│ CRC32 预写日志 │ │ │ │ + 存在/脏 │ │ (wal.log + fsync) │ │ │ │ 块位图 │ └──────────────────────────┘ │ │ └──────────┬──────────┘ │ │ │ │ 防抖压缩器 │ (cloud-strict) │ │ ▼ ▼ │ │ ┌───────────────────────────────────────────────────────┐ │ │ │ StorageBackend:GCS / Google Drive / LocalFS │ │ │ └───────────────────────────────────────────────────────┘ │ └─────────────────────────────┬───────────────────────────────┘ │ ▼ 云存储桶 / Drive 文件夹(例如 gs://my-bucket/vault 或 gdrive://root/vault) ├── manifest.json(原子 CAS 指针 + 单写者租约) ├── chunks/000000_e1.bin(每个 epoch 不可变的 512 KiB 块) ├── chunks/000003_e2.bin └── wal/seq_00000012.seg(可选的 cloud-strict WAL 段) 本地缓存与云存储布局
- 本地缓存目录(--cache-dir) <cache-dir>/ ├── cache.img # 稀疏裸磁盘镜像(表观大小 = --size;仅对实际写入的块占用磁盘) ├── wal.log # 仅追加的二进制 WAL,每条记录带 IEEE CRC32 校验和 ├── state.meta # 原子元数据(0600):volume_uuid、local_epoch、present_bits、dirty_bits ├── epochnbd.pid # 挂载期间活跃守护进程的 PID(由 epochnbd-vault.sh 管理,down 时删除) └── epochnbd.daemon.log # 守护进程启动、恢复和 epoch 压缩日志(由 epochnbd-vault.sh 管理) cache.img(稀疏块缓存):通过 Truncate(DiskSize) 创建为 Linux 稀疏文件。未触及的区域在本地 SSD 上占用 0 字节。块在首次读取(或部分块读-改-写)时从云存储调入,之后由本地提供。 wal.log(预写日志):在数据被压缩到云存储之前,存储顺序的 Write 和 FlushBarrier 记录(“CNBDWAL1” 头)。一旦某个 epoch 提交到 manifest.json,日志会自动裁剪;断电造成的尾部残缺记录会在启动时自动截断到最后一个有效的 CRC32 边界。 state.meta(持久缓存状态):以原子方式写入(tmp + fsync + rename)的 JSON,跟踪 volume_uuid、local_epoch、每块缓存的 epoch、PresentBitmap 和 DirtyBitmap: 防止意外挂载属于不同卷 UUID 的缓存目录。 支持跨 down / up 周期的热缓存复用:如果另一台机器在云中更新了卷,OpenEngine 会将 state.meta 与 manifest.json 进行比对,仅使 epoch 发生变化的特定块失效。 何时可以安全删除 <cache-dir>? 在正常的 down / up 会话之间保留 <cache-dir>,以获得快速的热缓存读取。 在干净 down 之后任何时候都可以安全删除(所有脏块都已提交到云端;下次 up 只会从冷的稀疏缓存开始,按需调入块)。 在非干净崩溃(kill -9 或断电)之后、且尚未在该机器上执行 up 之前,请勿删除——wal.log 和 cache.img 中保存着尚未压缩的本地写入,预挂载恢复会在下次启动时重放这些写入并推送到云端。
- 云端 / 后端前缀(--backend) 对象键 用途 manifest.json 纯 JSON 卷描述符:volume_uuid、disk_size、chunk_size、单调递增的 epoch、last_wal_seq、chunk_epochs 映射(chunkIdx -> epoch)以及 lease_holder。仅通过原子 CAS 更新。 chunks/%06d_e%d.bin 在 epoch e 中写入的块 idx 对应的不可变 ChunkSize(gs:///file:// 默认为 512 KiB,gdrive:// 默认为 4 MiB)裸块负载。未映射的块索引为稀疏(0x00)。在 manifest.json 推进后,被取代的块 epoch 会被垃圾回收。 wal/seq_%08d.seg (仅在 --sync-mode=cloud-strict 时)远程 WAL 增量段,在每次 fsync 屏障时上传,之后由 epoch 压缩合并并删除。
- 临时会话凭据(仅 tmpfs 内存) 当使用 epochnbd-vault.sh 且后端为 gs://(不使用持久化的 GOOGLE_APPLICATION_CREDENTIALS 密钥)时,会话 OAuth 凭据仅存放在内存中,路径为 /run/user/$UID/epochnbd/gcloud-nbd0(或 /dev/shm/epochnbd-$UID/...),并在 down 期间自动撤销和删除。 原子 epoch 切换与选择性 GC: 写入会立即落到本地稀疏 cache.img + wal.log。在后台(每次写入空闲 5 秒、wal.log >= 32 MiB、收到 SIGUSR1 或优雅关闭时),压缩器会对脏块做快照,并行上传为 chunks/<idx>_e<Epoch+1>.bin,通过原子 CAS 提交 manifest.json,裁剪已压缩的 WAL 记录,并且只对已被取代的块版本做垃圾回收。 两种可选的刷写屏障模式(--sync-mode): 持久性摘要(崩溃时会发生什么?): 预挂载崩溃恢复:
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。