类库
› picolm
RightNow-AI/picolm
PicoLM是一个用纯C语言编写的轻量级大语言模型推理引擎,专为资源受限的嵌入式设备设计。它无需依赖项,单个二进制文件即可在256MB RAM的廉价开发板上运行10亿参数的LLM,实现完全离线的AI应用。
截图
PicoLM是一个用纯C语言编写的轻量级大语言模型推理引擎,专为资源受限的嵌入式设备设计。它无需依赖项,单个二进制文件即可在256MB RAM的廉价开发板上运行10亿参数的LLM,实现完全离线的AI应用。