让一个大模型跑起来，远不止 pip install 和 model.generate() 那么简单。从底层计算框架到上层服务接口，整个技术栈错综复杂，包含各种各样百花齐放的工具。笔者在刚开始学习这方面的知识时被各种五花八门的工具搞的眼花缭乱，为此，特意进行了整理并写成了本文章。

本文将带你自底向上系统梳理当前主流的大模型部署工具链，这也是互联网上难得的对大模型部署工具进行系统梳理的文章。