Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导如何适配AutoRound以支持新的扩散模型架构,包括模型检测、Transformer块输出配置注册及混合架构处理。
安装全部 Skills
npx skills add intel/auto-round --all -g -y
集合内 Skills (7)
指导如何适配AutoRound以支持新的扩散模型架构,包括模型检测、Transformer块输出配置注册及混合架构处理。
新扩散模型量化失败
需要自定义输出配置
混合架构(AR+Diffusion)适配
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导如何适配 AutoRound 以支持新 LLM 架构,解决量化失败、块检测异常、MoE 融合及自定义前向传播等问题。
LLM 量化失败
块检测未找到层
MoE 模型需要解融合
需要自定义前向传递
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导在AutoRound中新增量化模型导出格式,涵盖模块创建、权重打包及序列化逻辑实现,支持vLLM等部署框架。
需要添加新的量化模型导出格式
扩展模型序列化兼容性以适配特定部署框架
npx skills add intel/auto-round --skill add-export-format -g -y
指导为AutoRound框架添加新的硬件推理后端,涵盖注册后端能力、实现量化权重解包与计算内核(如CUDA/Triton),以支持在特定硬件上高效运行量化模型。
需要为新硬件平台添加推理支持
实现QuantLinear内核或注册后端功能
配置量化模型的硬件加速推理
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导如何在AutoRound中添加新的量化数据类型,包括定义量化/反量化逻辑、注册装饰器及参数配置。
实现新的权重或激活量化方案
注册新的量化函数
扩展数据类型的注册表
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导将新的视觉语言模型集成到AutoRound以进行量化,包括配置多模态块处理器、校准数据集模板及特殊模型处理逻辑。
需要为新的VLM模型添加量化支持
集成LLaVA或Qwen2-VL等多模态模型
npx skills add intel/auto-round --skill add-vlm-model -g -y
用于 AutoRound 仓库的 PR 审查流程,涵盖范围检查、预提交验证、代码质量、量化数值稳定性、注册点审计、测试验证及文档翻译核对。
执行代码审查
运行 PR 检查清单
准备合并请求
提交前贡献审计
npx skills add intel/auto-round --skill review-pr -g -y


