Agent Skills
› intel/auto-round
intel/auto-round
GitHub指导适配AutoRound以支持新扩散模型架构,解决量化失败、配置缺失及混合架构等问题。
Install All Skills
npx skills add intel/auto-round --all -g -y
Skills in Collection (7)
指导适配AutoRound以支持新扩散模型架构,解决量化失败、配置缺失及混合架构等问题。
新扩散模型量化失败
需要自定义输出配置
模型未识别为扩散模型
非标准Pipeline API兼容问题
npx skills add intel/auto-round --skill adapt-new-diffusion-model -g -y
指导如何适配 AutoRound 以支持非标准 LLM 架构,涵盖块检测修复、MoE 解融合、自定义前向传播及特殊层处理等场景。
新模型量化失败
块检测未找到层
MoE 模型需要解融合
需要自定义前向传播
处理非标线性层
npx skills add intel/auto-round --skill adapt-new-llm -g -y
指导为AutoRound添加新的量化模型导出格式,涵盖目录创建、核心打包与保存逻辑实现,以及部署框架兼容性扩展。
实现新的量化模型序列化格式
添加新的打包方法
扩展vLLM或llama.cpp等部署框架的导出兼容性
npx skills add intel/auto-round --skill add-export-format -g -y
指导为AutoRound添加新的硬件推理后端,涵盖注册BackendInfo、配置量化参数及实现内核集成,以支持在特定硬件上部署量化模型。
需要支持新的硬件平台(如CPU/GPU/XPU)
实现或集成QuantLinear算子
注册新的量化推理后端能力
npx skills add intel/auto-round --skill add-inference-backend -g -y
指导在 AutoRound 框架中注册和实现新的量化数据类型(如 INT、FP8 等),涵盖模块创建、函数签名规范及核心工具使用,用于扩展模型量化方案。
需要添加新的量化数据类型
实现自定义权重/激活量化算法
向 AutoRound 注册新的数据格式
npx skills add intel/auto-round --skill add-quantization-datatype -g -y
指导在 AutoRound 中集成新视觉语言模型,包括多模态块处理、校准数据集模板及特殊模型逻辑。
集成新的 VLM(如 LLaVA、Qwen2-VL)到 AutoRound
配置多模态模型的量化支持
npx skills add intel/auto-round --skill add-vlm-model -g -y
用于审查AutoRound项目的Pull Request,涵盖范围检查、代码质量、量化数值稳定性验证、注册点审计、测试确认及文档翻译合规性。
执行代码审查
运行PR检查清单
准备合并请求
提交前贡献审计
npx skills add intel/auto-round --skill review-pr -g -y


