Agent Skills
› sgl-project/sglang
sgl-project/sglang
GitHub提供向 SGLang 添加轻量级 JIT CUDA 内核的分步教程，涵盖实现、编译及集成流程。
Install All Skills
npx skills add sgl-project/sglang --all -g -y
Skills in Collection (24)
提供向 SGLang 添加轻量级 JIT CUDA 内核的分步教程，涵盖实现、编译及集成流程。
需要添加新的 CUDA 计算内核
询问 JIT 与 AOT 内核选择策略
SGLang 内核开发指南
npx skills add sgl-project/sglang --skill add-jit-kernel -g -y
提供向sgl-kernel添加AOT CUDA/C++内核的分步教程，涵盖实现、注册、构建及测试基准。
需要添加新的CUDA或C++内核到sgl-kernel
询问如何集成重型AOT操作
npx skills add sgl-project/sglang --skill add-sgl-kernel -g -y
自动监控并修复指定 PR 的 CI 失败，持续重试或提交小幅度代码修正直至所选工作流通过。
用户要求监控 PR CI 状态
需要重试失败的 GitHub Actions
修复导致 CI 不通过的轻微代码问题
npx skills add sgl-project/sglang --skill babysit-pr-to-pass-ci -g -y
SGLang CI工作流编排指南，涵盖阶段排序、快速失败、门禁检查、分区及执行模式。用于修改CI流程、添加阶段、调试流水线问题或理解测试分发机制。
修改CI工作流配置
添加新的CI阶段
调试CI流水线故障
了解测试分发与门禁逻辑
npx skills add sgl-project/sglang --skill ci-workflow-guide -g -y
用于清理 SGLang 服务器启动日志中的噪音，如警告、弃用消息及第三方库输出。通过捕获日志、对比参考值、分类噪声源并实施修复，确保启动日志简洁清晰。
清理服务器启动日志
移除无关警告信息
优化日志输出
npx skills add sgl-project/sglang --skill clean-startup-log -g -y
计算混合注意力模型（如Mamba）的内存池分配比例，平衡状态池与KV池以优化并发和上下文长度。
询问 --mamba-full-memory-ratio 设置值
解释并发量受限原因
配置状态池与KV池大小
npx skills add sgl-project/sglang --skill compute-mamba-ratio -g -y
自动化向 SGLang Cookbook 添加新模型文档，包括生成配置文件、基准测试、MDX 页面及导航条目，实现配置驱动的内容创建。
用户请求添加新模型到 Cookbooks
/cookbook-add-model 命令
npx skills add sgl-project/sglang --skill cookbook-add-model -g -y
将旧的单体模型Cookbook页面迁移到基于配置的新模板格式，忠实转录原始内容而不进行现代化改进。
迁移现有的Cookbook页面
转换旧版文档为配置驱动格式
端口现有模型页面
npx skills add sgl-project/sglang --skill cookbook-migrate-model -g -y
用于审查SGLang Cookbook的PR，检查配置驱动格式、文件规范及Mintlify兼容性，确保仅修改数据配置而非引擎代码。
审查SGLang文档贡献PR
/cookbook-review-pr <PR number>
npx skills add sgl-project/sglang --skill cookbook-review-pr -g -y
用于调试 SGLang 中 CUDA 崩溃的工具，通过内核 API 日志捕获崩溃前的输入张量、形状和数据类型，定位非法内存访问或数值异常等底层错误。
CUDA 崩溃
非法内存访问
设备端断言失败
npx skills add sgl-project/sglang --skill debug-cuda-crash -g -y
用于调试 SGLang 分布式推理中因状态分歧导致的集体操作死锁或挂起问题，提供 py-spy、NCCL日志及CUDA coredump等定位与修复方法。
SGLang多GPU运行挂起或超时
集体通信操作死锁
需要定位分布式进程状态分歧
npx skills add sgl-project/sglang --skill debug-distributed-hang -g -y
定义 SGLang 环境变量的命名、定义位置及访问规范，确保变量统一注册在 Envs 类中，避免直接使用 os.getenv，支持类型化描述符与废弃迁移。
添加新的 SGLANG_* 环境变量
重命名或弃用环境变量
审查环境变量代码
修改 environ.py 文件
npx skills add sgl-project/sglang --skill env-var-conventions -g -y
启动SGLang服务器，验证模型准确性后生成端到端性能分析追踪文件，返回Chrome兼容的trace路径，用于评估推理性能。
需要分析SGLang服务器性能时
生成推理追踪报告时
检查模型服务响应时间时
npx skills add sgl-project/sglang --skill generate-profile -g -y
用于编写、校准和调试 sglang 中的 KL 一致性测试，验证算子批不变性与前后向路径计算一致性。适用于新增模型测试、阈值选择或排查高 KL 值问题。
添加新的 KL 一致性测试
选择或辩护 kl_div 阈值
调查过高的 KL 数值
npx skills add sgl-project/sglang --skill kl-consistency-test -g -y
规范SGLang中Scheduler、TokenizerManager和ModelRunner三个核心类的代码风格，强调冻结代码原则，要求仅保留编排逻辑，禁止内联领域逻辑，确保职责单一与可测试性。
修改 Scheduler/TokenizerManager/ModelRunner 类
审查上述类的变更
npx skills add sgl-project/sglang --skill large-class-style -g -y
统一 LLM torch-profiler 分析技能，支持 sglang、vllm 等框架。用于检查 trace 文件或驱动实时性能剖析，生成包含内核、重叠机会和融合模式的三表报告。
需要分析 LLM 推理性能瓶颈
检查已有的 trace.json 或 profile 目录
对运行中的服务器进行实时性能剖析
npx skills add sgl-project/sglang --skill llm-torch-profiler-analysis -g -y
提供机械重构（如文件拆分、函数移动）的机器可验证方案，通过重放提交和字节级比对确保变更纯粹性，支持拆分、构造证明及验证流程。
进行代码结构重组或模块提取
审查重构提交的正确性
生成机械重构的自动化验证报告
npx skills add sgl-project/sglang --skill mechanical-refactor-verify -g -y
提供 SGLang 脚本化运行时测试中 API 添加规范，明确何时封装、何时直接读取内部状态，并强调驱动引擎真实循环而非调用私有方法的原则。
编写 SGLang 脚本化运行时测试
决定测试中是否新增 harness API
处理运行时调度器交互逻辑
npx skills add sgl-project/sglang --skill scripted-runtime-notes -g -y
用于调查SGLang CI持续失败的测试，通过提取失败签名、二分法定位引入回归的提交、检查硬件特异性，并可选地在远程GPU主机上复现问题以查找根因。
CI测试在主分支持续失败
需要定位引入回归的具体PR
怀疑是Runner或GPU特定的环境问题
需要在远程服务器复现CI失败
npx skills add sgl-project/sglang --skill sglang-bisect-ci-regression -g -y
用于在SGLang项目中批量将已合并的PR Cherry-pick到指定发布分支。通过触发CI工作流并监控执行结果，自动报告每个PR的同步状态、成功链接或失败原因，简化版本发布流程。
需要批量迁移已合并的PR到发布分支
SGLang发布经理要求执行Cherry-pick操作
npx skills add sgl-project/sglang --skill sglang-cherrypick -g -y
用于SGLang服务故障排查，通过收集基线、保存失败请求并回放来定位问题。适用于健康检查失败、延迟回归、队列增长或崩溃等场景，旨在将现场问题转化为可复现的调试路径。
服务器健康检查失败
延迟或吞吐量显著下降
请求队列异常增长
服务崩溃或生成错误输出
npx skills add sgl-project/sglang --skill sglang-prod-incident-triage -g -y
解析SGLang运行时上下文架构，涵盖配置层级、状态管理及测试规范。指导开发者安全访问ServerArgs、模块级状态及转发状态，避免直接读取种子配置，确保开发符合CI约束与设计范式。
修改server_args相关逻辑
处理模型覆盖或模块级全局状态
编写针对运行时上下文的单元测试
调试进程内状态管理问题
npx skills add sgl-project/sglang --skill sglang-runtime-context -g -y
定义 SGLang 推测解码模块的命名规范，涵盖标识符动词形式、bonus token 术语及计数前缀规则。
添加或重命名推测解码相关标识符
审查 speculative decoding 代码中的变量命名
npx skills add sgl-project/sglang --skill speculative-naming -g -y
指导编写 SGLang CI/UT 测试，涵盖 CustomTestCase 使用、CI 注册、服务器 Fixture、模型选择及 Mock 测试，确保测试规范与资源安全。
创建新测试
添加 CI 测试用例
编写单元测试
为 SGLang 功能添加测试
npx skills add sgl-project/sglang --skill write-sglang-test -g -y
