类库
› whichllm
Andyyyy64/whichllm
whichllm是一个Python CLI工具,用于根据用户硬件(GPU/CPU/RAM)自动推荐并排名HuggingFace上的最佳本地LLM。它通过实时基准测试而非参数量进行排序,支持模拟不同显卡性能、对比升级方案及直接运行模型聊天,帮助用户快速找到最适合当前设备的模型。
标签
截图
whichllm是一个Python CLI工具,用于根据用户硬件(GPU/CPU/RAM)自动推荐并排名HuggingFace上的最佳本地LLM。它通过实时基准测试而非参数量进行排序,支持模拟不同显卡性能、对比升级方案及直接运行模型聊天,帮助用户快速找到最适合当前设备的模型。