Agent Skills
› pegainfer-project/pegainfer
pegainfer-project/pegainfer
GitHub用于对 OpenAI 兼容或 vLLM 服务端点进行基准测试的 Skill,支持多轮对话负载测试及 TTFT/TPOT/吞吐量等指标测量。
Install All Skills
npx skills add pegainfer-project/pegainfer --all -g -y
Skills in Collection (6)
用于对 OpenAI 兼容或 vLLM 服务端点进行基准测试的 Skill,支持多轮对话负载测试及 TTFT/TPOT/吞吐量等指标测量。
vllm bench
多轮压测
chat serving benchmark
npx skills add pegainfer-project/pegainfer --skill vllm-bench -g -y
用于对 vLLM 或 OpenAI 兼容端点进行基准测试,支持多轮对话压测及 TTFT/TPOT 等指标分析。
vllm bench
多轮压测
chat serving benchmark
npx skills add pegainfer-project/pegainfer --skill vllm-bench -g -y
指导开发者使用 NVIDIA Nsight Systems 对 Rust+CUDA 推理引擎进行 GPU 性能剖析。涵盖环境检查、Trace 捕获(含关键参数)、内核分析、延迟检测及回归诊断,旨在定位 GPU 时间瓶颈并指导优化。
GPU 性能分析
nsys Trace 捕获与解读
Kernel 耗时分解
Prefill/Decode 阶段慢速诊断
TPOT/TTFT 回归排查
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y
规范非平凡任务的全生命周期管理,通过文档记录阅读、计划、审批、执行及复盘环节,避免重复错误并确保人工审批。适用于涉及代码编写、调试、部署等实际操作的任务场景。
用户下达涉及具体操作(如编码、调试、部署)的任务
需要复用或创建项目文档以跟踪任务进展时
npx skills add pegainfer-project/pegainfer --skill project-doc -g -y
用于使用 NVIDIA Nsight Systems 对 GPU 工作负载进行性能分析。涵盖环境检查、Trace 捕获(含 CUDA Graph 陷阱规避)、内核/API 摘要分析及延迟问题诊断,旨在定位 GPU 时间瓶颈并指导优化。
用户请求 'profile' 或 'nsys'
需要 'capture a trace' 或 'GPU profiling'
询问 'kernel breakdown' 或 'where is time spent'
报告 'prefill/decode is slow' 或 'TPOT/TTFT regression'
提供 nsys 输出并要求解读
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y
用于使用 NVIDIA Nsight Systems 对 GPU 工作负载进行性能分析,涵盖追踪捕获、内核/API 摘要分析及延迟问题诊断。
用户请求 'profile'、'nsys' 或 'GPU profiling'
询问 'where is time going' 或 'kernel breakdown'
提供 nsys 输出并要求解释
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y


