
7本免费书籍助你掌握AI系统工程知识
来源标题:7 FREE Books to Learn About Building AI Systems
有开发者整理了7本免费书籍,帮助读者从能搭建AI应用进阶到能构建可支撑百万请求的生产级AI系统。这些书涵盖推理延迟、GPU内存、部署、上下文管理等工程知识,部分为经典旧作,部分较新。
以下正文由 AI 翻译自 KDnuggets(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
当有人问我:“你能仅凭直觉编程就构建一个AI应用吗?”我的回答是:是的,你大概可以。但构建一个能跑的应用是一回事,构建一个能处理百万级请求而不会变得过慢或成本过高的AI系统,则是另一回事。
AI工程远不止确保你的模型给出正确答案或完成任务那么简单。你需要考虑推理延迟、GPU内存、部署、上下文管理,以及当应用流量超出预期时会发生什么。如果你在构建AI智能体,事情会变得更加复杂。
也有一些不错的课程涵盖这些概念,但如果你真的想打好基础,我建议深入阅读书籍。你也不一定非要花钱买。我整理了7本我觉得值得一读的免费书籍。有些比较老,你可能已经听说过;有些则比较新。那么,我们开始吧。
这本书是经典之一,适合初学者,所以我建议从这本开始。它将机器学习视为一个端到端问题,涵盖四个主要阶段:1)项目设置,2)准备数据管道,3)建模(选择、训练和调试),4)服务(测试、部署和维护)。每个阶段都包含实用资源的链接以及来自大型科技公司机器学习工程师的案例研究。另一个好处是,书末有27道系统设计题供练习。自2019年以来发生了很多变化,所以它没有深入探讨大语言模型(LLM)基础设施,但对于理解机器学习系统如何协同工作仍然很有用。
这更像是一本参考书,而不是从头读到尾的书。它基于Stas Bekman在BLOOM-176B和IDEFICS-80B等大型模型项目中的经验,涵盖GPU硬件、网络、存储、SLURM编排、训练、推理和调试。我建议把它加入书签,以便在遇到GPU内存不足错误或多节点训练缓慢等问题时查阅。其GitHub仓库有近20,000颗星,并以CC BY-SA 4.0许可证发布,因此可以免费阅读和分享。
如果你在构建AI智能体,我绝对推荐你看看这本。它从一个简单的理念开始:智能体就是LLM、上下文和工具。在此基础上,它涵盖上下文工程、记忆、检索增强生成(RAG)、工具集成和多智能体系统,并解释了处理更长、更复杂任务的智能体背后的工程决策。它还包含大量实践实验。李博杰还有另一本书《理解AI基础设施》,我非常喜欢,所以也在这里分享。
这是一本更新的书,专门聚焦于构建LLM应用。它涵盖语言模型的工作原理、上下文工程、RAG、结构化输出、工具调用以及不同的智能体架构。它还深入工程层面,比如评估、可观测性、安全性、推理成本和延迟。它不只是展示如何使用某个框架,还解释了不同方法之间的权衡。它还配有配套课程。
如果你有兴趣部署LLM并使其更快、更便宜,这可能是本列表中最相关的书之一。它贯穿整个推理栈,从GPU和模型架构到服务软件和生产部署。你将学到批处理、量化、内存使用和延迟,以及如何选择合适的硬件或服务配置。如果你在试验本地LLM或vLLM之类的引擎,我推荐这本书。它还解释了为什么一个模型对单个用户运行良好,但当数百个请求同时涌入时就开始吃力。
如果你想理解LLM生成响应时发生了什么,这本书真的很好。它还充满了详细的图表,所以如果你视觉学习效果更好,它很适合你。它逐步讲解了token如何逐个生成,然后涵盖推理系统如何使其更快、内存更轻、能够扩展。它不把模型服务当作黑箱,而是让你更清晰地理解那些使LLM高效服务成为可能的工程技术。
这本书来自Google DeepMind的研究人员,如果你想理解LLM如何在数千个加速器上训练和提供服务,我强烈推荐它。它从TPU的工作原理开始,然后深入其架构、内存带宽、模型分片、分布式训练和推理优化。我非常喜欢的一点是,它使用LLaMA 3作为实际例子来解释训练或服务一个大模型需要多少内存、计算能力和金钱。有些数学内容可能相当技术性,但它仍然是一个很好的资源。
你不必从头到尾读完所有七本书。挑选与你当前工作相关的,其余的需要时再回来查阅。
我认为我们正在达到一个点:几乎任何人都可以借助编程智能体构建AI应用。但知道如何使应用可靠、快速、安全和可负担,才是工作演示与生产系统之间的区别。
而这正是为什么我认为学习AI系统工程变得越来越重要,而不是越来越不重要。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。