标签
共 1 篇文章
vLLM 于 10 月 5 日发布 v0.31.0,含 717 次提交。这一版把 DeepSeek-V4.1-Flash 的 FlashMLA 内核设为 Blackwell 卡默认路径,推理性能直接受益,vllm preload 让量化权重常驻显存,重启等待大幅缩短。