类库
› Qwen3.8-Flash-Next-Dual-DGX-Sparks
MiaAI-Lab/Qwen3.8-Flash-Next-Dual-DGX-Sparks
该仓库提供基于vLLM的Qwen3.8-Flash-Next模型在双DGX Spark节点上的多节点推理解决方案。支持TP2+EP+MTP3并行策略,适用于拥有RoCE/IB网络连接的Linux服务器环境,旨在实现高性能的大模型分布式部署与加速。
该仓库提供基于vLLM的Qwen3.8-Flash-Next模型在双DGX Spark节点上的多节点推理解决方案。支持TP2+EP+MTP3并行策略,适用于拥有RoCE/IB网络连接的Linux服务器环境,旨在实现高性能的大模型分布式部署与加速。