vLLM PD 分离实战：从请求流程理解 Prefill、Decode 与 KV Cache 传输

xueduan.li@gmail.com (意琦行) — Mon, 14 Sep 2026 20:00:00 +0000

上一篇 https://www.lixueduan.com/posts/ai/27-why-pd-disaggregation/ 介绍了为什么要把 Prefill 和 Decode 拆开。本文继续往下走，在单节点 GPU 环境中搭建一个可以从头复现的 PD 分离 Demo，先用最小实现把整个链路跑通。

本文不引入复杂组件，只使用 vLLM 和一个轻量 Proxy，把 Prefill 与 Decode 两个阶段串起来。

Demo 主要看两件事：

PD 分离后的请求执行流程，观察同一个请求如何依次经过 Proxy、Prefill 和 Decode；
PD 分离中的 KV Cache 数据流，确认 Prefill 生成的 KV Cache 如何通过 KV Connector/NIXL 交给 Decode。

Nerdctl - 标签 - 探索云原生

vLLM PD 分离实战：从请求流程理解 Prefill、Decode 与 KV Cache 传输