Agent Skills
› pegainfer-project/pegainfer
pegainfer-project/pegainfer
GitHub用于对 vLLM 或 OpenAI 兼容端点进行性能基准测试,支持多轮对话压测及 TTFT/TPOT 等指标分析。
Install All Skills
npx skills add pegainfer-project/pegainfer --all -g -y
Skills in Collection (6)
用于对 vLLM 或 OpenAI 兼容端点进行性能基准测试,支持多轮对话压测及 TTFT/TPOT 等指标分析。
vllm bench
多轮压测
chat serving benchmark
TTFT/TPOT measurement
concurrency sweep
npx skills add pegainfer-project/pegainfer --skill vllm-bench -g -y
用于对 vLLM 或 OpenAI 兼容端点进行基准测试,支持多轮对话、并发扫描及 TTFT/吞吐量等指标测量。涵盖安装、参数配置、结果保存与解读,辅助验证本地推理服务性能。
vllm bench
多轮压测
chat serving benchmark
TTFT/TPOT/throughput measurement
load test
concurrency sweep
npx skills add pegainfer-project/pegainfer --skill vllm-bench -g -y
指导开发者使用 NVIDIA Nsight Systems 对 GPU 工作负载进行性能分析,涵盖环境检查、追踪捕获及耗时诊断,旨在定位优化瓶颈。
GPU 性能分析与追踪
Nsight Systems 命令生成与解释
CUDA 内核耗时诊断
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y
规范非平凡任务的全生命周期管理,强制先读文档、制定计划并获批准后再执行,最后记录结果与经验教训。适用于涉及代码编写、调试、部署等具体执行的操作,避免重复错误。
用户下达需要执行的具体任务(如写代码、调试、部署)
需要进行系统性调查或修复的复杂问题
npx skills add pegainfer-project/pegainfer --skill project-doc -g -y
指导使用NVIDIA Nsight Systems对Rust+CUDA推理引擎进行GPU性能分析,涵盖环境检查、追踪捕获及内核耗时诊断。
用户提到profile、nsys、GPU profiling或kernel breakdown
询问TPOT/TTFT回归或解码慢的原因
提供nsys输出请求解读
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y
指导使用 NVIDIA Nsight Systems 对 Rust+CUDA 推理引擎进行 GPU 性能剖析。涵盖环境检查、Trace 捕获配置(含 CUDA Graph 陷阱规避)、内核耗时分析及 TPOT/TTFT 回归诊断,帮助定位 GPU 时间瓶颈。
GPU 性能分析
nsys trace 捕获
CUDA Kernel 耗时诊断
TPOT/TTFT 回归排查
解析 nsys 输出结果
npx skills add pegainfer-project/pegainfer --skill nsys-profiling -g -y


