SGLang 宣布为 DeepSeek-V4-Flash-Vision 与 DeepSeek-V4-Flash-0731 增加在 2×DGX Spark 上的部署食谱。Flash-Vision 带原生视觉；Flash-0731 支持 fp4 与 NVIDIA 官方 nvfp4；两者均跑在 b12x 内核库上，文档见 docs.sglang.io cookbook。
7 大权威镜像天梯跑分与 29+ 款主流编程套餐横向比价测算
联动天梯榜跑分、独家套餐赠金与 IDE 定制规则
NVIDIA RTX Spark 公布本地 Agent 推理优化：GeForce RTX 5090 上 llama.cpp 吞吐最高提升约 1.9 倍；RTX PRO 6000 Blackwell 上 vLLM 约 1.2 倍；双机 DGX Spark 集群最高约 1.4 倍。面向本地部署与边缘 Agent 服务路径的持续加速。
Hugging Face 工程师 @RisingSayak 介绍 🤗 Kernels（huggingface.co/docs/kernels）：发现更快算子时不必重写模型，可直接替换支持层的 forward()。同一层可为推理与训练指定不同 kernel，也可按设备类型分流；选择写入全局或局部映射，验证负载后再保留有效方案。配套 Hub 动态加载与 kernels Python 包（需 torch≥2.5 与 CUDA），官方维护 kernels-community。
MiaAI Lab（@MiaAIlab）为 GLM-5.3-Flash EXL3 增加 TP=3 路径，可在三台 DGX Spark 上运行：相对 TP=2 解码速度 +28%、prefill +9%，并给出 3.2M KV cache 与 1M 上下文；另可选从头节点经 NFS 共享权重（NFSSHARE=1），释放其余节点磁盘。仓库：github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察