⚡
TL;DR Verdict 开发者 3 秒速决决策指标
高性能大模型推理框架 SGLang 宣布对开源权重 GLM-5.3 实现 Day-0 生产级适配。在真实多轮 Agent 复杂负载下，8×B300 上 NVFP4 吞吐达到 537.6 tok/s/user，并同步支持 AMD MI300X/355X 硬件加速。
核心要点速览 (Key Takeaways)
- ✓首发适配开源 320B-A18B 混合注意力架构，实现权重发布当日即可高并发部署上线；
- ✓基于 NVFP4 与 FP8 量化内核深度优化，在真实 Agent 编程会话中保持超 500 Token/s 用户吞吐；
- ✓同一套开源代码库全面打通 NVIDIA Blackwell/Hopper 与 AMD MI300X/325X/355X，避免硬件锁定。
🧭
阅读完核心要点？进一步了解模型实力与实际开销
7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察