开源项目详情

jev-router

基于 LiteLLM 与 Jev 构建的开源模型路由器:根据输入任务复杂度与上下文自动选择性价比最高的大模型。

Stars
3
Forks
0
协议
MIT
最近提交
2026-09-17

Jev 在这里做什么

通过 System-1 单次前向推理对输入 Prompt 评定推理需求档位,再由本地 LiteLLM 路由分发请求。

无需复杂的启发式正则即可实现高吞吐的任务分级与模型降本调度。

经由公共仓库代码审查确认真实 Jev 可执行集成证据;决策机制提取自实际源码,未经本站性能跑分测试。