类库
› optillm
algorithmicsuperintelligence/optillm
OptiLLM是一个开源的LLM推理优化代理工具，通过集成20多种先进的推理优化技术（如MCTS、规划等），无需额外训练即可将语言模型在数学、代码和逻辑推理任务的准确性提升2-10倍。它提供与OpenAI API兼容的接口，可无缝替代现有API端点。
标签
技术栈
根目录 python
框架
Flask
网络
Requests
查看全部依赖 (34)
依赖
NumPy
adaptive-classifier
aiohttp
azure.identity
beautifulsoup4
bitsandbytes
cerebras_cloud_sdk
datasets
google-cloud-aiplatform
gradio
ipykernel
ipython
litellm
lxml
math-verify
mcp
mlx-lm
nbconvert
nbformat
networkx
openai
outlines
peft
presidio_analyzer
presidio_anonymizer
scikit-learn
selenium
sentencepiece
spacy
tiktoken
torch
transformers
webdriver-manager
z3-solver
scripts python
网络
Requests
查看全部依赖 (8)
依赖
Pandas
accelerate
datasets
httpx
huggingface_hub
openai
tabulate
tqdm
截图
