LongCat-Flash：如何使用SGLang部署美团Agentic模型

LongCat-Flash：如何使用 SGLang 部署美团 Agentic 模型

摘要

美团开源了LongCat-Flash智能体模型，采用混合专家模型（MoE）架构，通过创新设计实现了计算效率与性能的双重优化。模型总参数量达5600亿，具备512个前馈网络专家和256个零计算专家，支持计算-通信重叠和多头潜在注意力机制。通过SGLang框架优化部署，LongCat-Flash在推理速度和智能体任务表现上显著优于同类模型，适用于复杂场景。