类库
› LLMRouter
ulab-uiuc/LLMRouter
LLMRouter是一个开源智能路由库,专门用于优化大型语言模型的推理过程。它能根据查询的复杂度和成本等因素,动态选择最合适的LLM模型来执行任务,从而提高效率和降低成本。
截图
LLMRouter是一个开源智能路由库,专门用于优化大型语言模型的推理过程。它能根据查询的复杂度和成本等因素,动态选择最合适的LLM模型来执行任务,从而提高效率和降低成本。