Accueil Sujet library logo Bibliothèque Astuce Magasin
Plus
类库 › llm-inference-engineering
amitshekhariitbhu

amitshekhariitbhu/llm-inference-engineering

这是一个LLM推理工程学习资源库，系统讲解从KV Cache、PagedAttention到vLLM和SGLang等核心技术。通过博客和视频形式，帮助开发者深入理解自回归模型、预填充与解码优化及GPU加速原理，提升大语言模型推理性能。

238 28 238
在 GitHub 上查看

标签

inference-engineering inference-optimization large-language-models llm llm-engineering llm-inference llms

相关项目

jaywcjlove
jaywcjlove/linux-command
Linux命令大全是一款搜索工具，提供600多个Linux命令的手册与详解，帮助用户学习和使用Linux命令。
34k Markdown
tldr-pages
tldr-pages/tldr
tldr是一个协作维护的命令行工具快速参考手册，旨在简化传统手册页，让用户更容易查找和理解常用命令。
59k Markdown
ellisonleao
ellisonleao/magictools
magictools是一个精心策划的游戏开发资源清单，帮助开发者快速找到所需工具和资料，让游戏开发过程充满灵感与效率。
15.9k Markdown
frankiefab100
frankiefab100/Blockchain-Development-Resources
本仓库提供免费的区块链开发学习资源，包括智能合约部署、去中心化应用(DApp)开发、DeFi、DAO、NFT和代币协议，适合区块链开发者和爱好者。
1.5k Markdown
jakubkrehel
jakubkrehel/make-interfaces-feel-better
这是一个针对AI编程助手（如Claude Code）的插件技能，基于《让界面体验更好的细节》文章，旨在教会AI助手实现提升用户界面细节体验的前端设计技巧，包括文本平衡、动画优化、视觉对齐等微交互设计。
2.9k Markdown
amitshekhariitbhu
amitshekhariitbhu/ai-engineering-interview-questions
AI工程面试题库，提供AI工程师、LLM工程师、Gen AI工程师等职位相关的面试问题与答案，涵盖LLM基础、提示工程、RAG、AI代理、微调、向量数据库、AI系统设计等主题，帮助求职者准备技术面试。
2.6k Markdown

评论

Accueil - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-09-07 15:03
浙ICP备14020137号-1 $Carte des visiteurs$