类库
› NIGHTRUN
hardrave/NIGHTRUN
NIGHTRUN是一个无需操作系统的本地LLM运行时。它通过Rust编写,支持从USB或SD卡直接启动至UEFI环境。设备将量化模型加载至内存后,直接在帧缓冲上提供聊天界面,实现离线、无内核的纯CPU推理体验,适用于x86_64 PC和树莓派5。
技术栈
crates/nr-model rust
查看全部依赖 (3)
依赖
libm
0.2
nr-tensor
nr-token
crates/nr-tensor rust
查看全部依赖 (1)
依赖
libm
0.2
crates/nr-ui rust
查看全部依赖 (1)
依赖
nr-gfx
tools/nrconvert rust
查看全部依赖 (2)
依赖
nr-model
nr-token
tools/nrhost rust
查看全部依赖 (3)
依赖
nr-model
nr-tensor
nr-token
tools/xtask rust
查看全部依赖 (3)
依赖
fatfs
0.3
fscommon
0.1
gpt
3