研究团队推出 TIRx Rust,为智能体 ML 编译器提供跨语言基础
来源标题:Building a Rust-Native, Cross-Language Foundation for Agentic ML Compilers
研究团队发布 TIRx Rust,一个基于 TIRx 构建的 Rust 原生跨语言基础,为智能体开发 ML 编译器提供支持。它提供跨语言原生 IR 访问、易用的 Rust API 和动态扩展能力。团队称该方式可让智能体用 Python 快速原型、用 Rust 构建稳健代码,并连接 C++ 编译器工具链。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我们把这个工作称为 TIRx Rust,一个面向 Agentic ML 编译器的 Rust 原生、跨语言基础。TIRx Rust 构建在 TIRx 之上——一个极简且稳定的 ML 编译器基础——同时提供跨语言的原生 IR 访问、符合人体工程学的 Rust API,以及动态扩展能力。
我们设想一种全新的方式,借助 agent 来探索 ML 编译器开发:不再把所有东西完全重写成 Rust 这一种语言,而是允许 agent 在开发的不同阶段为不同模块选择最合适的语言,并能在细粒度层面自由混搭。我们的初步经验表明,这种方式让 agent 能够用 Python 快速原型、用 Rust 构建健壮的代码,同时有机地连接到稳定的 C++ 编译器工具链,从而更快地开发。
虽然 TVM-FFI ABI 提供了访问数据结构的基本方式,我们仍需要提供符合习惯且安全的 Rust API,用来检查、遍历和变换程序结构。Rust 中的每个 IR 对象都存储为遵循 Rust 所有权规则的引用计数对象。不同的 IR 节点可以由不同的节点类型表示。
编译器分析中的一个典型需求是根据节点类型进行分派,无论它是 For 节点、常量还是表达式。match_any! 宏负责匹配 IR 节点类型: fn describe(expr: &PrimExpr) -> Result<String> { let text = match_any! { expr { Add(ref add) => format!("({} + {})", describe(&add.a)?, describe(&add.b)?), Mul(ref mul) => format!("({} * {})", describe(&mul.a)?, describe(&mul.b)?), Var(ref var) => var.name.as_str().to_owned(), IntImm(ref imm) => imm.value.to_string(), _ => "<other>".to_owned(), }; Ok(text) match_any! 的行为很像对 enum 做 match,不同之处在于,在我们的场景中不需要预先枚举所有 enum;相反,不同的下游扩展可以在不同的动态库中构建自己的 IR 对象变体,match_any! 对它们开箱即用。这种动态扩展能力极其重要,因为 agent 可以有机地扩展程序表示,而无需重新构建整个程序。
除了 match_any!,我们还提供 #[dispatch] 宏,使我们能够轻松地在 Rust 中构建基于类型的分派。这种模式在大多数编译器分析的 visitor 中非常常见。 #[dispatch(print, (AnyView<'>, bool), String)] impl Printer { fn print_add(&self, add: &Add, nested: bool) -> String { let text = format!("{} + {}", self.show(&add.a, true), self.show(&add.b, true)); if nested { format!("({text})") } else { text } fn print_var(&self, var: &Var) -> String { var.name.as_str().to_owned() fn print_imm(&self, imm: &IntImm) -> String { imm.value.to_string() fn show(&self, expr: &PrimExpr, nested: bool) -> String { let text = self.dispatch(AnyView::from(expr), nested); text.unwrap_or_else(|| "<other>".to_owned()) match_any! 和 #[dispatch] 为我们提供了在每一步进行访问和分派处理的基本 API。在实践中,我们还需要递归遍历 IR 节点,执行检查和重写。我们通过四个 structural* 提供结构化遍历 API:
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。