Krasis是一个混合LLM运行时,专注于在消费者级VRAM有限硬件上高效运行大型专家混合模型。它使用Python编排的Rust MoE运行时,能在普通硬件上运行2000亿+参数的大模型,支持全GPU预填充和高效的CPU解码,实现实用速度。
C++
496
28
Other
1个月前
brontoguana/krasis cover
Foundry Local 是微软开发的本地AI工具,可在个人设备上运行生成式AI模型,无需Azure订阅。它提供类似OpenAI的API接口,支持硬件加速和ONNX运行时优化,所有数据处理均在本地完成,保障隐私安全。
C++
2,482
349
Other
1个月前
BitNet是一个专门用于1位大语言模型(如BitNet b1.58)的高效推理框架。它提供优化的内核,支持在CPU和GPU上进行快速、无损的推理,显著提升模型运行速度并降低能耗,使得百亿参数模型可在单CPU上流畅运行。
C++
39,798
3,658
MIT License
1个月前
Valhalla是一个基于OpenStreetMap数据的开源路线规划引擎,提供路径导航、时空距离矩阵计算、等时线、海拔采样、地图匹配和旅行商优化等地理空间分析功能。
C++
6,028
944
Other
1个月前
OpenSCAD是一款面向程序员的开源3D CAD建模软件,通过脚本语言描述物体并进行渲染,专注于机械零件等CAD建模而非艺术创作,支持参数化设计和构造实体几何(CSG)等建模技术。
C++
9,859
1,684
Other
1个月前
CyberEther是一个高性能、GPU加速的跨平台信号处理与可视化框架。它支持实时信号可视化、数据处理,并提供流程编辑器构建实时流水线。可在桌面、移动设备和Web浏览器中运行。
C++
761
49
MIT License
1个月前
luigifcruz/CyberEther cover
Filament是谷歌开源的实时物理渲染引擎,专注于在移动和桌面平台提供高效、高质量的图形渲染。支持跨平台开发,特别为Android优化了性能和体积。
C++
20,314
2,217
Apache License 2.0
1个月前
Cactus是一个针对移动设备和可穿戴设备的低延迟、高能效AI推理引擎。它提供OpenAI兼容的API接口,支持聊天、视觉、语音识别(STT)、检索增强生成(RAG)等功能,并利用零拷贝计算图和针对ARM架构优化的SIMD内核来实现高性能、低内存占用的模型部署。
C++
5,296
420
Other
3个月前
cactus-compute/cactus cover
该仓库基于Kaldi工具包,提供DNN支持的语音强制对齐与发音质量评估功能。可生成对齐文本网格和音素发音评分,用于语音分析和发音诊断。
C++
236
85
Other
2个月前
Moonshine Voice是一个用于嵌入式设备的开源AI语音识别(ASR)工具包,可在终端设备上实时进行低延迟、私密的语音处理,支持多语言,并提供易于集成的跨平台库。
C++
10,575
569
Other
1个月前
moonshine-ai/moonshine cover
DuckDB是一个高性能的分析型SQL数据库管理系统,采用进程内架构,无需独立服务器。它支持丰富的SQL语法和复杂查询,提供CLI工具及Python、R、Java等多种语言客户端,便于数据分析和集成。
C++
39,892
3,508
MIT License
1个月前
FxSound是一款专为Windows PC设计的数字音频增强软件,通过高保真音频引擎实现信号无损直通,并提供音量提升、音色塑造和均衡调节等效果处理,可定制化增强系统音频输出。
C++
3,686
287
GNU Affero General Public License v3.0
5个月前
Piper是一个快速、本地化的神经文本转语音引擎,使用espeak-ng进行音素转换,提供命令行工具、Python/C++ API、Web服务器和预训练语音,适合离线部署和隐私保护场景。
C++
3,303
326
GNU General Public License v3.0
5个月前
UVDoc是基于神经网络网格的文档展平工具,通过深度学习模型修复弯曲、褶皱的文档图像,使其恢复平整状态,支持自定义图像处理和模型训练。
C++
201
36
MIT License
5个月前
tanguymagne/UVDoc cover
Proton是一个用于流处理、可观测性、分析和AI/ML的高速SQL ETL管道引擎,以单个C++二进制文件形式提供,专注于实时数据处理的性能和效率。
C++
2,172
106
Apache License 2.0
5个月前

首页 - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-09-15 07:58
浙ICP备14020137号-1 $访客地图$