inicio tema library logo biblioteca biblioteca de código tienda
más
类库 › time-to-first-token
patchy631

patchy631/time-to-first-token

这是一个为期10周的LLM推理服务优化学习路线图。通过每天30分钟，构建并部署一个OpenAI兼容的推理服务，涵盖vLLM、量化、推测解码及基准测试，旨在帮助工程师掌握生产环境下的LLM推理实战技能。

1,012 115 1,012 1
在 GitHub 上查看

标签

learning-resources llm llm-inference mlops roadmap sglang vllm

相关项目

creativetimofficial
creativetimofficial/david-ai
David AI是一个免费、开源的可定制UI组件库，基于Tailwind CSS，旨在快速创建现代化的用户界面。
6.1k HTML
hellodigua
hellodigua/UniEmoji
该仓库收录各大平台的常用表情包，提供统一格式以便于交流，计划扩展功能如复制网址和支持GIF。
39 HTML
kongkongyo
kongkongyo/Ai-Markmap
Ai-Markmap 是一款利用 AI 力量，将文本或 Markdown 转换为交互式思维导图的在线工具，支持多版本生成与导出功能，旨在帮助用户高效梳理信息。
442 HTML
knownsec
knownsec/aipyapp
AIPy是一个集成了大型语言模型的Python解释器，旨在简化数据处理任务，让用户通过自然语言描述需求，从而自动生成和执行Python代码。
4k HTML
sethcottle
sethcottle/littlelink
LittleLink 是一个轻量级的自托管 Linktree 替代品，提供超过100种品牌按钮样式，用户可自定义和设计自己的按钮。
3.1k HTML
pagedjs
pagedjs/pagedjs
Paged.js是一个开源库，用于在浏览器中显示分页内容，并利用网络技术生成印刷书籍。
1.5k HTML

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.156.0. UTC+08:00, 2026-11-09 13:36
浙ICP备14020137号-1