用一组可滑动的中文图片笔记,持续拆解 SGLang 推理框架的核心原理、部署用法,并跟进值得关注的版本与社区动态。
六张图看懂 SGLang PD Disaggregation 的请求流、最小部署和适用边界,带你从启动参数走到对照实验。
用六张竖版图看懂 SGLang 如何用 JSON Schema、regex 和 EBNF 在生成时约束输出,并跑通一份 OpenAI 兼容请求。
用六张竖版图看懂 RadixAttention 如何复用共享前缀的 KV Cache,并跑起一个最小 SGLang 服务。