Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导适配 AutoRound 以支持新型扩散模型架构,解决量化失败、配置缺失或非标准 API 等问题。
安装全部 Skills
npx skills add intel/auto-round --all -g -y
集合内 Skills (7)
指导适配 AutoRound 以支持新型扩散模型架构,解决量化失败、配置缺失或非标准 API 等问题。
新扩散模型量化失败
需要自定义输出配置
混合架构处理
非标准推理接口兼容
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导如何适配 AutoRound 以支持非标准 LLM 架构,解决量化失败、MoE 融合层处理及自定义前向传播等问题。
LLM 量化失败
块检测未找到层级
需要处理 MoE 模型解融合
需自定义前向传递
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导在AutoRound中实现新的量化模型导出格式,包括创建模块、打包权重及序列化保存。适用于扩展部署框架兼容性或新增打包方法。
实现新的量化模型序列化格式
添加新的打包方法
扩展vLLM或llama.cpp等部署框架的导出兼容性
npx skills add intel/auto-round --skill add-export-format -g -y
指导为AutoRound添加新的量化模型推理后端,涵盖硬件适配、内核实现及能力注册。
实现QuantLinear内核
注册后端能力
在新硬件平台上启用量化推理
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导在AutoRound中新增量化数据类型,涵盖模块创建、注册及量化逻辑实现。
实现新的权重或激活量化方案
注册新的量化函数
扩展data_type注册表
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导在AutoRound中集成新的视觉语言模型,包括配置多模态块处理器、校准数据集及特殊模型处理,以支持LLaVA等模型的量化。
需要为新的VLM(如LLaVA、Qwen2-VL)添加AutoRound量化支持
集成多模态模型时的块发现和校准路径配置
npx skills add intel/auto-round --skill add-vlm-model -g -y
AutoRound项目的PR审查工作流,涵盖范围检查、代码质量、量化数值稳定性、注册点审计、测试验证及文档翻译合规性,确保提交符合规范。
执行代码审查
运行PR检查清单
准备合并请求
提交前审核贡献
npx skills add intel/auto-round --skill review-pr -g -y


