AI产品:Jev
一万字Jev 工程实践长文:把 Agent 的“判断题”从大模型里拆出来
Jev是一种放弃文本生成、只返回概率判断的模型,专为Agent系统设计高频、封闭的“快判断层”。它替代传统摘要,通过拆解工具历史保留与否的二元问题,实现高效上下文压缩,让生成、判断与执行分层协作。
聊聊最近爆火的Jev 模型,到底是个啥?
Jev是TypeSafe AI推出的决策模型,专为高频、有限选择的判断任务设计。它响应快、成本低,能替代Agent中许多不必要的通用大模型调用。通过游戏、浏览器自动化等案例,展示了“判断”与“生成”分工的价值,前景取决于能否持续好用、易集成。
Jev’s Architecture Unmasked
Jev用因果Transformer直接输出概率,替代了耗时的逐token文本生成。它共享状态编码,隔离问题分支,使多个决策能并行计算。这种设计让软件能直接基于可靠的概率做自动化决策,而非依赖模型声称的置信度。
- «
- 1
- »