类库 › inside-llm
manuelgscom

manuelgscom/inside-llm

inside-llm是一个基于llama.cpp的本地可视化工具,支持在浏览器中实时观察GGUF模型的推理细节。它能对比不同量化版本或模型间的差异,展示Token概率、采样器决策及分歧点。数据完全本地运行,无需API,支持录制和回放会话。

manuelgscom/inside-llm

技术栈

web javascript

框架

Svelte ^5.57.3

构建工具

Vite ^8.3.8

测试

Vitest ^5.1.0
查看全部依赖 (6)

开发依赖

@sveltejs/vite-plugin-svelte ^7.3.1 @types/node ^24.0.0 @types/three ^0.187.0 svelte-check ^4.7.8 three ^0.187.0 typescript ^6.0.0

评论

首页 - Wiki
Copyright © 2011-2026 iteam. Current version is 2.156.0. UTC+08:00, 2026-11-19 18:29
浙ICP备14020137号-1