Agent Skills
› vllm-project/llm-compressor
vllm-project/llm-compressor
GitHub用于创建和管理用于测试与开发的小型模型，支持配置检查、张量分析、微调及验证。
Install All Skills
npx skills add vllm-project/llm-compressor --all -g -y
Skills in Collection (3)
用于创建和管理用于测试与开发的小型模型，支持配置检查、张量分析、微调及验证。
需要快速测试或实验模型时
进行模型架构调整或参数缩减时
npx skills add vllm-project/llm-compressor --skill create-tiny-model -g -y
根据用户请求生成FP8量化示例脚本，支持FP8_BLOCK、FP8_DYNAMIC和MXFP8方案，适配不同硬件并保存压缩张量检查点。
fp8
FP8_DYNAMIC
FP8_BLOCK
MXFP8
fp8 example
quantize to fp8
npx skills add vllm-project/llm-compressor --skill fp8 -g -y
生成NVFP4量化示例脚本并保存压缩张量检查点。自动收集模型信息，智能配置GPTQ参数及校准数据集，适用于W4A4量化场景。
nvfp4
NVFP4
fp4
nvfp4 example
quantize to nvfp4
w4a4
npx skills add vllm-project/llm-compressor --skill nvfp4 -g -y
