MiaAI Lab(@MiaAI_lab)为 GLM-5.3-Flash EXL3 增加 TP=3 路径,可在三台 DGX Spark 上运行:相对 TP=2 解码速度 +28%、prefill +9%,并给出 3.2M KV cache 与 1M 上下文;另可选从头节点经 NFS 共享权重(NFS_SHARE=1),释放其余节点磁盘。仓库:github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks。

核心要点速览 (Key Takeaways)

  • ✓新增 TP=3:三台 DGX Spark 跑 GLM-5.3-Flash EXL3。
  • ✓相对 TP=2:解码 +28%、prefill +9%;3.2M KV / 1M 上下文。
  • ✓可选 NFS_SHARE=1 从头节点加载权重,释放其余节点空间。
🧭

阅读完核心要点?进一步了解模型实力与实际开销

7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算