代码仓库分析

TypeLLM

基于 SGLang 的开源类型化生成层:不修改现有自回归模型的结构和权重,通过类似 JSON Schema 的声明返回 string、integer、number、boolean 或 enum Python 值。

E2 · 资料已核对已检查公开资料或源码证据;仅有固定提交链接并经对应源码核对,才可称固定版本核验。不代表本站运行过、认可性能或保证安全。
Stars
705
Forks
43
协议
Apache-2.0
最近提交
2026-09-26

Jev 在这里做什么

同一上下文中的独立字段可以批量执行;depends_on 可把字段组织成 DAG,让后续字段读取依赖结果,同时复用共享前缀缓存。

除有限选项和布尔判断外,还覆盖自由字符串、整数、小数、图像输入、可选 thinking 与排列平均,适合收据抽取等结构化生成工作流。

本站于 2026-09-26 核对固定版本 README、测试与 JevBench 说明。Schema 约束保证输出形状,不保证语义正确或概率已经校准;基准结果来自项目作者,本站未独立复现。

这个项目适合解决什么任务?

用已有 SGLang 模型,从文本或图片同时提取有限决策和开放值字段。

资料分析日期:

从输入到动作

  1. 声明字段类型及可选依赖。
  2. 独立字段批量处理,依赖字段按 DAG 执行。
  3. 返回类型化结果;只有支持的布尔/枚举字段可附概率。

实现中值得检查的地方

DAG 是具体执行契约

depends_on 可前向引用;后续上下文接收依赖的值,而非整份概率分布,且图模式不能与显式 batch/sequential 混用。

查看对应来源 ↗

排列平均有编排层测试

test_permutations.py 用假后端验证选项重排、种子复现和概率合并;证明的是编排行为,不是模型准确率。

查看对应来源 ↗

选择建议

收据需要商户名、金额和类别,或后续字段依赖前项时可考虑;它的架构和延迟契约与 Jev 不同。

如何自行检查

对照 schema 限制与排列测试:开放 Text/Numeric 不能请求 return_probabilities,并检查所用版本对循环和未知依赖的处理。

结论的适用边界

  • 本站未运行 SGLang 推理或复现基准。
  • 类型正确不代表事实正确或概率已校准。
本次分析的原始资料