trang chủ chủ đề library logo thư viện mã nguồn cửa hàng
thêm
类库 › pegainfer
xiaguan

xiaguan/pegainfer

pegainfer是一个用纯Rust和CUDA构建的LLM推理引擎，无需PyTorch或其他框架。专注于从底层实现高性能推理，支持多种模型，追求Rust原生推理的最佳性能。

291 28 291 6
在 GitHub 上查看
xiaguan/pegainfer

技术栈

根目录 rust

查看全部依赖 (4)

依赖

anyhow 1.0 ndarray 0.16 safetensors 0.7 tokenizers 0.22

相关项目

ultraworkers
ultraworkers/claw-code
这是一个教育用途的Python项目，对Claude Code进行独立重写和移植。将原TypeScript代码转换为Python实现，包含工具链、命令系统和查询引擎等核心功能的重构，用于学习AI系统的架构设计与代码迁移技术。
186.3k Rust
rustdesk
rustdesk/rustdesk
RustDesk是一个开源远程桌面软件，支持自建服务器，提供类似TeamViewer的远程控制功能，强调安全性和隐私保护。
112.3k Rust
denoland
denoland/deno
Deno是一个现代的JavaScript和TypeScript运行时，具有安全默认设置和良好的开发体验，适用于构建Web服务器和其他应用。
104.2k Rust
tauri-apps
tauri-apps/tauri
Tauri是一个框架，用于构建小巧、快速且安全的桌面和移动应用，支持任何前端框架，与Rust后端进行交互。
95.9k Rust
astral-sh
astral-sh/uv
uv是一个极其快速的Python包和项目管理器，旨在替代多种Python工具，提供高效安装和管理功能。
65.7k Rust
zed-industries
zed-industries/zed
Zed是一个高性能的多人代码编辑器，支持在macOS和Linux上快速编写代码，旨在提升编程效率。
65.4k Rust

评论

trang chủ - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-21 06:50
浙ICP备14020137号-1 $bản đồ khách truy cập$