类库
› inside-llm
manuelgscom/inside-llm
inside-llm是一个基于llama.cpp的本地可视化工具,支持在浏览器中实时观察GGUF模型的推理细节。它能对比不同量化版本或模型间的差异,展示Token概率、采样器决策及分歧点。数据完全本地运行,无需API,支持录制和回放会话。
标签
技术栈
web javascript
框架
Svelte
^5.57.3
构建工具
Vite
^8.3.8
测试
Vitest
^5.1.0
查看全部依赖 (6)
开发依赖
@sveltejs/vite-plugin-svelte
^7.3.1
@types/node
^24.0.0
@types/three
^0.187.0
svelte-check
^4.7.8
three
^0.187.0
typescript
^6.0.0