《大模型轻量化：模型压缩与训练加速》-梁志远
《大模型轻量化:模型压缩与训练加速》围绕大模型轻量化这一主题，系统地阐述大模型轻量化的基本理论与实现方法，旨在提升模型的部署效率和计算性能。
全书分为3部分，共10章。第1部分（第1～5章），介绍大模型的背景与面临的问题，以及Transformer和MoE架构的基本原理；重点讲解模型压缩、训练加速和推理优化等核心技术，包括量化、蒸馏和剪枝等，并通过实际案例验证其效果。
第2部分（第6、7章），重点介绍端侧学习与计算引擎优化策略，尤其是动态Batch和异构执行的工程实现。第3部分（第8～10章），针对高性能算子库与手工算子开发，分别以cuDNN、NEON、CUDA等为代表，揭示算子优化的细节，最后，以国产开源模型DeepSeek-V3为例，展现从训练到推理的综合优化方案。
《大模型轻量化：模型压缩与训练加速》提供全面实用的轻量化方法论，结合丰富代码示例与实践案例，适合从事大模型开发与优化的工程师，也为研究人员提供深入探讨的素材与视角，助力解决大模型训练与推理中的实际问题。
免责声明: 本站所有资源搜集于互联网，所提供下载链接也是站外链接，网站本身不存储任何相关资源文件， 如资源下载链接侵犯到版权方，请发送邮件到1401211620@qq.com，站长核实后会第一时间移除，谢谢!
![《复杂的引擎》[新版]梅菲尔德/交叉学科新领域佳作](https://www.boyanglee.com/storage/books/s_28719_1658060777.jpg "《复杂的引擎》[新版]梅菲尔德/交叉学科新领域佳作")
![《白夜》[全彩插图版]陀思妥耶夫斯基/来温柔地跌入陀坑](https://www.boyanglee.com/storage/books/s_14436_1659315009.jpg "《白夜》[全彩插图版]陀思妥耶夫斯基/来温柔地跌入陀坑")
