类库
› StartLux-Decision
StartLuxLabs/StartLux-Decision
StartLux-Decision是开源决策模型系列,支持0.8B至27B参数。它通过单次前向传播为每个选项提供校准概率,仅在不确定时生成简短推理。该仓库包含兼容vLLM、llama.cpp和MLX后端的推理引擎及HTTP服务器,适用于结构化决策场景。
标签
技术栈
v1 python
查看全部依赖 (11)
依赖
causal-conv1d
flash-linear-attention
huggingface_hub
mlx-lm
peft
pillow
pyarrow
safetensors
torch
torchvision
transformers