vLLM 0.28.0 正式发布：Kimi-K3 全栈优化、DeepSeek-V4 稀疏 MLA 与分层磁盘 KV 缓存

核心要点速览 (Key Takeaways)

• ✓引入自适应推测 Token 预算机制，将端到端首字延迟（TTFT）大幅降低 55–65%；
• ✓DeepSeek-V4 稀疏 MLA 实现全链路打通，Kimi-K3 共享专家分片技术使单卡节省约 17 GiB 显存；
• ✓KV Cache 引入内存-磁盘分层架构，默认批处理 Token 限制倍增至 16384，全面支持跨硬件平台（NVIDIA、AMD、Intel XPU、CPU）。