类库 › StartLux-Decision
StartLuxLabs

StartLuxLabs/StartLux-Decision

StartLux-Decision是开源决策模型系列,支持0.8B至27B参数。它通过单次前向传播为每个选项提供校准概率,仅在不确定时生成简短推理。该仓库包含兼容vLLM、llama.cpp和MLX后端的推理引擎及HTTP服务器,适用于结构化决策场景。

技术栈

v1 python

查看全部依赖 (11)

依赖

causal-conv1d flash-linear-attention huggingface_hub mlx-lm peft pillow pyarrow safetensors torch torchvision transformers

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-10-22 03:49
浙ICP备14020137号-1