类库 › NIGHTRUN
hardrave

hardrave/NIGHTRUN

NIGHTRUN是一个无需操作系统的本地LLM运行时。它通过Rust编写,支持从USB或SD卡直接启动至UEFI环境。设备将量化模型加载至内存后,直接在帧缓冲上提供聊天界面,实现离线、无内核的纯CPU推理体验,适用于x86_64 PC和树莓派5。

技术栈

crates/nr-model rust

查看全部依赖 (3)

依赖

libm 0.2 nr-tensor nr-token

crates/nr-tensor rust

查看全部依赖 (1)

依赖

libm 0.2

crates/nr-ui rust

查看全部依赖 (1)

依赖

nr-gfx

tools/nrconvert rust

查看全部依赖 (2)

依赖

nr-model nr-token

tools/nrhost rust

查看全部依赖 (3)

依赖

nr-model nr-tensor nr-token

tools/xtask rust

查看全部依赖 (3)

依赖

fatfs 0.3 fscommon 0.1 gpt 3

评论

ホーム - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-08-13 04:02
浙ICP备14020137号-1 $お客様$