Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导如何适配AutoRound以支持新的扩散模型架构,解决量化失败、自定义配置及混合架构处理等问题。
Install All Skills
npx skills add intel/auto-round --all -g -y
Skills in Collection (7)
指导如何适配AutoRound以支持新的扩散模型架构,解决量化失败、自定义配置及混合架构处理等问题。
新扩散模型量化失败
需要自定义输出配置
非标准Pipeline API兼容
AR与扩散混合架构适配
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导如何适配AutoRound以支持新LLM架构,解决量化失败、块检测异常、MoE处理及自定义前向传播等问题。
新模型类型量化失败
块检测未找到层
MoE模型需要解融合
需要自定义前向传递
非标准线性层类型处理
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导在AutoRound中新增量化模型导出格式,包括创建模块、实现打包与序列化逻辑,以适配vLLM等部署框架。
需要支持新的量化模型序列化格式
为特定部署框架扩展导出兼容性
添加新的权重打包方法
npx skills add intel/auto-round --skill add-export-format -g -y
指导在AutoRound中为量化模型添加新的硬件推理后端,包括注册后端能力、定义内核实现及支持的计算配置。
实现新的量化线性核
注册新后端能力
在新硬件平台上启用量化推理
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导在AutoRound中添加新的量化数据类型,包括定义量化/反量化逻辑、注册新类型及集成到量化循环中。
实现新的权重或激活量化方案
注册新的量化函数
扩展data_type注册表
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导在AutoRound中集成新的视觉语言模型(VLM),包括配置多模态块处理器、校准数据集模板及特殊模型处理,支持LLaVA等模型的量化。
需要为AutoRound添加对新VLM的支持
集成LLaVA或Qwen2-VL等多模态模型进行量化
npx skills add intel/auto-round --skill add-vlm-model -g -y
AutoRound仓库PR审查工作流,涵盖范围检查、预提交验证、代码质量、量化数值稳定性、注册点审计、测试验证、文档翻译及合规性审查,确保合并前质量。
执行代码审查
运行PR检查清单
准备合并请求
提交前审核贡献
npx skills add intel/auto-round --skill review-pr -g -y


