AI Systems Performance Engineering

关于本书

本书深入探讨AI系统性能工程的各个方面，从硬件架构到软件优化，从分布式训练到推理效率。通过DeepSeek等实际案例，展示了如何在资源受限的情况下榨取系统的最大性能。

原书信息

• 书名: AI Systems Performance Engineering
• 作者: Chris Fregly
• 出版社: O'Reilly Media

翻译说明

本项目使用GLM5翻译+人工校对。采用 中英对照 格式，每个段落同时展示英文原文和中文翻译，便于对照学习。目前完成初稿，尚存在诸多格式错乱、中文翻译不准确、不合理、生硬等问题，由于精力有限，后续慢慢改进。

如何阅读

• 使用左侧导航栏浏览各章节
• 点击右上角图标切换深色/浅色模式
• 使用搜索功能快速定位内容

许可声明

本项目仅供学习交流使用，请勿用于商业用途。原书版权归 O'Reilly Media 所有。

全部章节

1. 第1章 引言与AI系统概述
2. 第2章 AI系统硬件概述
3. 第3章 GPU环境的OS、Docker与Kubernetes调优
4. 第4章 分布式网络通信调优
5. 第5章 GPU存储I/O优化
6. 第6章 GPU架构、CUDA编程与最大化占用率
7. 第7章 GPU内存访问模式分析与调优
8. 第8章 占用率调优、Warp效率与指令级并行
9. 第9章 提高CUDA内核效率与算术强度
10. 第10章 内核内流水线、Warp特化与协作线程块集群
11. 第11章 内核间流水线、同步与CUDA流有序内存分配
12. 第12章 动态调度、CUDA图与设备发起的内核编排
13. 第13章 PyTorch性能分析、调优与扩展
14. 第14章 PyTorch编译器、OpenAI Triton与XLA后端
15. 第15章 多节点推理、并行、解码与路由优化
16. 第16章 大规模推理的性能分析、调试与调优
17. 第17章 扩展分离式预填充与解码推理
18. 第18章 高级预填充-解码与KV缓存调优
19. 第19章 动态自适应推理引擎优化
20. 第20章 AI辅助性能优化与向百万GPU集群扩展

📎 附录