本文基于vllm框架，解读PagedAttention的实现过程。

本文对vllm框架进行解析梳理，分别梳理Scheduler、BlockManager、Worker模块，以及昇腾适配，调用atb_llm模型库实现昇腾推理加速。

把普通 PyTorch 模型转一个这样的 TorchScript 模型，有跟踪（trace）和记录（script）两种导出计算图的方法。 跟踪法只能通过实际运行一遍模型的方法导出模型的静态图，即无法识别出模型中的控制流（如循环）；记录法则能通过解析模型来正确记录所有的控制流。