首页 话题 library logo 文库 码库 小摊
更多
类库 › auto-round
intel

intel/auto-round

AutoRound是Intel开发的先进量化工具包，专为大型语言模型和视觉语言模型设计，支持2-4位超低位宽量化，通过优化的算法在保持高精度的同时减少模型大小和推理开销，支持多种量化方案和硬件兼容。

937 92 937 108
在 GitHub 上查看
intel/auto-round

标签

gguf int4 llms mxfp4 nvfp4 quantization rounding sglang transformers vllm vlms

截图

docs/imgs/autoround_overview.png

相关项目

donnemartin
donnemartin/system-design-primer
该仓库是一个系统设计学习资源库，用于帮助开发者学习和设计大规模分布式系统，并为系统设计面试做准备。包含大量结构化学习材料、Anki闪卡和多语言翻译。
340.8k Python
Significant-Gravitas
Significant-Gravitas/AutoGPT
AutoGPT是一个强大的平台，允许用户创建、部署和管理持续的AI智能体，自动化复杂工作流程。
178k Python
huggingface
huggingface/transformers
🤗 Transformers是用于自然语言处理、计算机视觉、音频和多模态任务的先进机器学习模型库，支持预训练模型的定义、推理和训练，涵盖数千种最前沿的模型架构与权重。
158.6k Python
AUTOMATIC1111
AUTOMATIC1111/stable-diffusion-webui
该仓库提供Stable Diffusion的网页界面，用户可以通过直观的方式实现文本生成图片及图像处理，如修复、放大和调整参数等功能。
155.9k Python
ytdl-org
ytdl-org/youtube-dl
youtube-dl是一个命令行程序，用于从YouTube及其他视频网站下载视频，方便用户在各种平台上离线观看。
137k Python
yt-dlp
yt-dlp/yt-dlp
yt-dlp是一个功能丰富的命令行音视频下载器，支持成千上万的网站，方便用户下载多种格式的媒体内容。
123.6k Python

评论

首页 - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-02 12:30
浙ICP备14020137号-1 $访客地图$