标签： #大语言模型

从自回归解码的串行瓶颈出发，手算 draft–verify 接受过程，推导精确采样修正，追踪张量形状，并给出可检查实现、指标与失败边界。

从 prefill 阻塞 decode 的延迟尖峰出发，手算 token budget 下的分块调度，解释 KV 递增、优先级、容量保护与当前 vLLM 配置验证。

从静态批处理的尾部空洞出发，手算逐迭代请求替换，解释 prefill/decode 混合、token 预算、KV 容量、延迟指标与可验证的 vLLM 配置。

从变长生成的显存碎片出发，手算逻辑块到物理块的映射，解释 PagedAttention 的动态增长、Copy-on-Write、调度契约与服务端验证。