Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导适配AutoRound以支持新扩散模型架构,解决量化失败、配置不匹配及混合架构处理等问题。
安装全部 Skills
npx skills add intel/auto-round --all -g -y
集合内 Skills (7)
指导适配AutoRound以支持新扩散模型架构,解决量化失败、配置不匹配及混合架构处理等问题。
新扩散模型量化失败
需要自定义输出配置
模型检测异常
混合架构组件处理
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导适配AutoRound以支持新型LLM架构,解决量化失败、块检测异常、MoE融合权重处理及自定义前向传播等问题。
新模型类型量化失败
块检测未找到层
MoE模型需要解融合
需要自定义前向传播
非标准线性层类型处理
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导为AutoRound添加新的量化模型导出格式,涵盖目录创建、核心打包逻辑实现及序列化保存,支持vLLM等部署框架。
需要新增量化模型导出格式
实现新的模型序列化方法
扩展部署框架兼容性
npx skills add intel/auto-round --skill add-export-format -g -y
指导在AutoRound中添加新的硬件推理后端,涵盖注册BackendInfo、配置量化参数及实现计算内核,以支持在不同硬件平台上部署量化模型。
需要为新的硬件平台(如HPU、XPU)添加推理支持
实现或修改QuantLinear内核以适配特定量化格式
注册新的后端能力并配置优先级与依赖
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导在AutoRound框架中添加新的量化数据类型,涵盖模块创建、函数签名定义及注册流程,支持INT、FP8等方案扩展。
实现新的权重或激活量化方案
注册新的量化函数
扩展数据类型注册表
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导在AutoRound中集成新的视觉语言模型(VLM),包括配置多模态块处理器、校准数据集模板及特殊模型处理,以支持LLaVA等模型的量化。
需要为AutoRound添加新VLM支持
集成LLaVA或Qwen2-VL等多模态模型进行量化
npx skills add intel/auto-round --skill add-vlm-model -g -y
针对AutoRound仓库的PR审查流程,涵盖代码质量、量化数值稳定性、注册点审计、测试验证、文档翻译及合规性检查,确保合并前质量。
执行代码审查
运行PR检查清单
准备合并请求
提交前贡献审核
npx skills add intel/auto-round --skill review-pr -g -y


