
S2 弃用 Route53,自建权威 DNS 服务器
来源标题:It's always DNS, so why are we running our own?
S2 用自建权威 DNS 服务器替换了 AWS Route53。原因是其支持无限 basin,每个 basin 对应一个 CNAME 子域名,需要无限且强一致的 DNS 记录;若用托管服务,新建地址可能因缓存 NXDOMAIN 而无法即时解析。S2 还提到客户此前已在绕过每账户 100 个 basin 的限制。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
这是一个关于我们如何最终替换 Route53 并运行自己的权威 DNS 服务器的跌宕起伏的故事。
某个时刻,我们决定应该能够为客户提供无限数量的 basin。basin 是 S2 的核心命名空间构造,充当 stream 的顶级容器(stream 的数量已经不受限制)。我们发现客户在绕过我们那个并非那么随意的每账户 100 个 basin 的限制。这体验可不怎么样。
就这个故事而言,重要的是客户创建的每个 basin 都会成为自己的子域名:my-basin.b.s2.dev(与 AWS S3 上 bucket 的工作方式并无不同)。与每个 basin 关联的 DNS 记录是一条 CNAME,它将客户端路由到我们架构中正确的 cell。因此,要支持无限数量的 basin,我们就需要支持无限数量的 DNS 记录。
这些记录还需要强一致性。当一个 basin 被创建时,它的地址应该能立即被解析,否则客户端就得干等着缓存的 NXDOMAIN 过期。
一想到要运行自己的 DNS 服务器,我的脉搏就飙升,哎呀!
我的调研阶段始于希望。希望我们现有的 AWS Route53 DNS 配置能够满足这些新需求。我真的真的不想让我们构建并运行自己的 DNS 服务器。
Route53 是个很棒的系统,而且看起来可以支持无限数量的记录。但是,有一个致命的限制:它们的 API 速率限制最高约为每秒 5 次 UPSERT(AWS 的限流文档最近有改动,现在限制可能更高了)。
实际上,这是我们吃了苦头才发现的。我确实读过文档,但 API 限制并没有引起我的担忧。当一个恶意行为者迅速创建了数万个 basin,占满了我们 Route53 记录的全部配额时,问题就变得显而易见了。这产生了一批需要数小时才能处理完的积压工作,在此期间我们正常的 DNS 更新被卡住,一些进程试图删除记录,而另一些则试图添加新记录。不过,这确实促成了一次很棒的故障复盘。正是在那时,我们开始强制执行每账户 100 个 basin 的限制。
我们考虑过批处理方案,但那会破坏我们让条目立即可用的目标。而且即使采用批处理,这套方案也感觉不到“无限”;系统的合法使用仍然有可能触及速率限制。
我们考察过的其他托管 DNS 提供商(GCP Cloud DNS、Cloudflare、Azure DNS)也有类似的限制:如果你通过提供商 API 更新/插入/upsert 记录,就会有一个严重的限流因素。
没办法绕开,只能构建一个自定义的权威 DNS 服务器(双重哎呀!)
技术要求相当直接:对于任何进来的 DNS 请求,我们需要查询一个最新的 zone map,它应该能够容纳无限数量的记录,并向客户端发送相应的响应。
为了避免同步到单独的系统并多出一个活动部件,DNS 记录将直接来自我们现有的 basin 数据库。一次实时的 SELECT 就能一致地“解析”出 DNS 请求中所需的映射。换句话说,我们希望 DNS 简单地成为我们现有强一致账户数据库的一个新调用方。
我们的账户数据库位于 Google 的 Cloud Spanner 中,预计性能表现良好(当然,前提是钱给够)。
我们在基于库构建还是编写 CoreDNS 模块之间反复权衡。最终,基于库构建感觉是最灵活的路径,可以让我们构建非常贴合自身用例的东西。我们是一家 Rust 技术栈的公司,但我们决定这个项目用 Go,主要是因为 Spanner 工具链(以及 GCP 生态)相对更成熟。我们很快选定了 miekg/dns 库,因为它的文档质量极佳,且实现了很多 RFC。
我们需要能够支持多种记录类型的权威 DNS 查询:A、AAAA、NS、CNAME、SOA。由于我们使用的是库,我们必须自己构建响应。我们的正确性测试聚焦于这些方面,包括单元测试、使用 Ferret 进行的 RFC 合规性测试(我们是在这篇很棒的论文中发现的:SCALE: Automatically Finding RFC Compliance Bugs in DNS Nameservers),以及使用真实数据的部署后冒烟测试。
S2 为 basin zone 使用通配符证书,它们需要 ACME DNS-01 挑战才能工作。我们决定不在自己的服务器上提供 DNS 挑战,而是通过 CNAME 委托将其卸载到单独的 Route53 zone,以避免调整我们的证书续期系统以及提供动态 TXT 记录。
然后我们与一个流行的 AI 系统进行了几次规划会议。设计足够简单,一切都很有道理(即使对我来说也是如此),只不过建议中不断包含各种额外功能:合并、负缓存、限流、速率限制、DNS cookies 等等。对于一个将暴露在开放而可怕的互联网上的系统来说,这是意料之中的;然而,这确实是大量的防护建议。
我们越是顺藤摸瓜……就越觉得可怕。DNS 层面可能发生许多类型的攻击,有些是我知道的可怕事情,有些则是我从未听说过的。
NXDOMAIN 攻击是最让我们害怕的。每一个随机的、不存在的 DNS 查询都会是一次全新的数据库查询。我们尝试在应用内为 NXDOMAIN 构建防御,然而,在我看来,它是最糟糕的 DDoS 攻击,没有什么能真正阻止它。不妙。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。