开源项目详情

Janus

模型适用性测量与路由框架,评估业务数据在 Jev 与传统大模型之间的收益边界并执行最优动态分发。

Stars
2
Forks
0
协议
MIT
最近提交
2026-09-18

Jev 在这里做什么

通过内置的 TypeSafe 提供者向 Jev 发起基准测试请求,统计离散判断准确度与延迟,生成自动化路由策略。

用实测数据消除模型选型主观臆断,在保证任务成功率的同时实现系统整体调用的成本最小化。

源码已核验。包含 TypeSafe 提供者实现与路由策略引擎;实际成本节省幅度取决于业务查询的数据特征。