inicio tema library logo biblioteca biblioteca de código tienda
más
类库 › time-to-first-token
patchy631

patchy631/time-to-first-token

这是一个为期10周的LLM推理服务优化学习路线图。通过每天30分钟，构建并部署一个OpenAI兼容的推理服务，涵盖vLLM、量化、推测解码及基准测试，旨在帮助工程师掌握生产环境下的LLM推理实战技能。

765 95 765 3
在 GitHub 上查看

标签

learning-resources llm llm-inference mlops roadmap sglang vllm

相关项目

creativetimofficial
creativetimofficial/david-ai
David AI是一个免费、开源的可定制UI组件库，基于Tailwind CSS，旨在快速创建现代化的用户界面。
6k HTML
hellodigua
hellodigua/emoji
该仓库收录各大平台的常用表情包，提供统一格式以便于交流，计划扩展功能如复制网址和支持GIF。
29 HTML
DDULDDUCK
DDULDDUCK/every-pdf
Every-PDF 是一款强大的桌面 PDF 工具，支持编辑、转换、合并和保护文档，旨在提供一站式解决方案。
861 HTML
kongkongyo
kongkongyo/Ai-Markmap
Ai-Markmap 是一款利用 AI 力量，将文本或 Markdown 转换为交互式思维导图的在线工具，支持多版本生成与导出功能，旨在帮助用户高效梳理信息。
214 HTML
ranuts
ranuts/document
这是一个基于OnlyOffice的网页文档编辑器，用户可以在浏览器中本地编辑多种文件格式，确保隐私和安全，无需服务器支持。
775 HTML
sethcottle
sethcottle/littlelink
LittleLink 是一个轻量级的自托管 Linktree 替代品，提供超过100种品牌按钮样式，用户可自定义和设计自己的按钮。
2.6k HTML

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-08-27 17:35
浙ICP备14020137号-1 $mapa de visitantes$