Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导如何适配AutoRound以支持新的扩散模型架构,涵盖模型检测、Transformer块输出配置注册、非标准Pipeline API处理及混合架构量化等场景。
Install All Skills
npx skills add intel/auto-round --all -g -y
Skills in Collection (7)
指导如何适配AutoRound以支持新的扩散模型架构,涵盖模型检测、Transformer块输出配置注册、非标准Pipeline API处理及混合架构量化等场景。
新扩散模型量化失败
需要自定义输出配置
Pipeline API不兼容
混合架构需特殊处理
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导适配 AutoRound 以支持新 LLM 架构,解决量化失败、块检测异常、MoE 模型处理及自定义前向传播等问题。
LLM 量化失败
块检测未找到层
MoE 模型需要解融合
需要自定义前向传递
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导为AutoRound添加新的量化模型导出格式,包括创建模块、实现打包与保存逻辑及注册机制。
需要支持新的量化模型序列化格式
扩展部署框架兼容性如vLLM或llama.cpp
实现新的权重打包方法
npx skills add intel/auto-round --skill add-export-format -g -y
指导在AutoRound中添加新硬件推理后端,支持量化模型部署。涵盖注册后端能力、配置参数及实现QuantLinear内核,适配CUDA/HPU等平台。
需要为新硬件平台添加量化推理支持
实现或注册新的QuantLinear内核
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导在AutoRound中添加新的量化数据类型(如INT, FP8等),包括创建模块、实现张量量化/反量化逻辑及注册到系统。
实现新的权重或激活量化方案
注册新的量化函数
扩展数据类型注册表
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导在AutoRound中集成新的视觉语言模型,包括配置多模态块处理器、校准数据集模板及特殊前向处理,适用于LLaVA等模型的量化支持。
需要为新的VLM添加量化支持
集成多模态模型如LLaVA或Qwen2-VL
npx skills add intel/auto-round --skill add-vlm-model -g -y
用于 AutoRound 项目的 Pull Request 审查工作流,涵盖代码质量、量化数值稳定性、注册点审计、测试验证及文档翻译检查,确保贡献符合规范。
执行代码审查
运行 PR 清单
准备合并请求
提交前审计贡献
npx skills add intel/auto-round --skill review-pr -g -y


