Jev 是一种 System One 决策模型——不生成文本、只输出结构化决策,定位是嵌入 Agent 流水线做高频、低延迟的分类与路由。
- 定位:TypeSafe AI 推出的非 LLM 决策模型,创始人 Diogo Almeida 是 ChatGPT/RLHF 共同发明人
- 三种原语:Noul(yes/no 概率)、Choice(最多 255 项选一)、Score(有序评分),一次请求并行评估
- 输出形状:schema-first 的 typed value + 概率分布 + 置信度,程序直接消费,零格式幻觉
- 速度与价格:端到端 70-500ms,输入 $0.042/1M token,输出 token 免费
- 不是 LLM 替代品:不能写代码、写文章、做复杂推理,只覆盖「已知答案空间的快速判断」
- 典型场景:Agent 模型路由、Skill 选择、UI 元素定位、上下文压缩、工具调用前的风险评分
- 评测边界:官方「193x 更快」来自自家工作流基准,独立复现有限,需在自己负载上验证
- 已有接入:Vercel AI Gateway、Cloudflare、OpenRouter、LangChain 集成均已支持