类库
› rizzo-flow
Rizzo-AI-Academy/rizzo-flow
Rizzo Flow 是一个开源、本地优先的 LLM 决策工具，兼容 Jev API。它将非结构化状态输入转化为类型化的概率决策，无需生成文本 Token。支持 llama.cpp 后端，可运行于 Metal、CUDA、Vulkan、ROCm、SYCL 及 CPU 环境，适用于需要低延迟、高隐私的本地 AI 应用开发。
技术栈
training python
查看全部依赖 (10)
依赖
NumPy
Pydantic
accelerate
bitsandbytes
jinja2
peft
pyarrow
safetensors
tokenizers
transformers
截图
