决策模型（System One）介绍

决策包含权衡、后果与责任；而这类模型做的事情是：在你给定的选项上，凭已经内化的知识给出一个概率分布，快速指一个「最像对」的答案。它不推演、不比较代价、不承担后果。就过程而言，它更接近人「拍脑袋」的那一下，而不是「想清楚之后再做决定」。

按双过程理论的说法，它对应的是 System 1——快速、直觉、省力；而不是 System 2 那种慢速、可追溯的推理。TypeSafe 自己把这个家族命名为 System One，其实比「决策模型」这个中文译法更准确。

名字重要，因为它决定了人们期待什么。叫「决策模型」，会让人以为它可以替你把事决定下来；叫「直觉模型」，你就知道它给的是一个先验判断，该不该照它执行，仍然是你的责任。

大语言模型的可解释性本来就是一笔糊涂账：注意力权重、神经元激活、思维链文本，没有一个是可靠的因果解释。但至少思维链给了人一个读得下去的东西——哪怕它可能只是事后编出来的理由。

决策模型把这一层直接删掉了：不生成任何文本，只返回一个概率分布。结果是更难解释。概率可以校准（说 0.9 就真的九成对），但「为什么是 0.9」无处可问——没有文本、没有中间态、没有可回放的过程。

所以工程上的合理位置是：低风险、可回滚、有人兜底的判断点。用它的概率做分流与阈值门控，把不确定的那部分交给人或交给更强的模型，而不是把它当作不可质疑的结论。

在 Jev 出现之前，很多团队在业务里已经用过同类做法：把要求和答案结构写进上下文，要求模型只输出一个选项字母。这样做的收益非常直接——不需要解析自然语言、不需要处理格式漂移、延迟压到亚秒级、成本几乎可以忽略。

但问题同样直接：没有了思考过程，回答质量明显更差。同一道判断，让模型先写出理由再给标签，往往比直接吐标签更准；把推理过程拿掉，等于主动放弃了模型在困难样本上的那部分能力。

这正是决策模型的取舍：用质量上界换速度与成本。它适合那些本来就不需要深想的判断（这条消息该归到哪个类别、这个截图里有没有异常、这段话是否违规）；而不适合把一道需要推理的问题硬压成一次前向。选型时先问一句：这件事人来做需要想吗？需要想，就别交给直觉模型。

这类需求并不新鲜，过去十年里以各种形式存在过：文本分类、意图识别、内容审核、rerank、规则引擎加模型打分。真正缺的不是技术，而是行业共识——可做的事情太多、收益分散在无数个具体场景里，没有人愿意为一个标准投入。

Jev 做对的一件事，是把接口形态固定下来：state + 类型化问题（Choice / Noul / Score）→ 概率分布，输出免费、按输入计费。标准一旦清晰，生态就会自己长出来：两周内 100 多个开源复刻、两套公开评测（S1MB 与 Decision Index）、Cloudflare 开源 Clef 并配套 RL 微调、OpenAI 与 Perplexity 各自推出 Decisions 端点。

共识形成之后，剩下的就是工程与数据——所以接下来会进入快车道。本站的存在意义也在于此：这段路上每天都有新东西，需要有人把它收拢、对齐、留档。

从外面看，这些模型差异极大：有在冻结的 27B 主干上加一个 head 的，有在 400M 编码器上重头训练的；有读标签 token 的 logit 的，有把选项拼进输入做成对打分的；有单次前向的，也有走受限解码的。尺寸从 17M 到 35B，延迟从 5 毫秒到 500 毫秒。

但如果问「它凭什么能判断」，答案只有一个：底模在预训练阶段已经把这些判断所需的知识内化进去了。决策模型做的事情，是把这些知识在一次前向里读出来，而不是重新学一遍。这也解释了为什么：

换句话说，架构决定的是「读得多准」，数据决定的是「读得到什么」。具体流派见下方「实现方式探索」。

• 小模型在熟悉领域能逼近大模型，换个领域就崩——它读出的是基座里已有的东西；
• 合成数据比参数量更关键——数据决定的是「读出哪些知识」；
• 它快——判断所需的计算在执行第一个 token 前就基本完成了。

文本判断点（意图分类、情感、NLI）虽然数量庞大，但很多已经被传统小模型以更低的成本解决了。而带图的判断点——截图、单据、图表、监控画面、网页布局、商品图片——往往没有现成的小模型可用，过去只能靠人工、或者靠昂贵的通用大模型硬扛。

这正是多模态决策模型的机会。而且从数据上看，它已经在领先：Decision Index 的 Vision 子榜最高分 69.8，高于文本主榜的 62.8；已经有 4 个托管端点支持图像输入（Cloudflare Clef / Clef-flash、OpenAI gpt-6-luna-decisions、Perplexity pplx-decider-v1.1-27b），另有 Intern-Decision、decider-2b-vision、JPT 系列等开源选择。

决策模型的价值不在「更聪明」，而在同一件事更便宜、更快：输入价 $0.02–0.24/百万 token、输出 token 免费、一次前向。省下来的是推理算力、是延迟、是解析与重试的工程成本。

但通用决策模型只解决「起步」问题。真正落地时，你会发现业务判断的长尾极其琐碎：你们公司特有的分类体系、你们自己的合规口径、你们那个行业的术语。这些不会出现在任何公开训练数据里。

于是路径变得清晰：用高阶模型在你自己的数据上跑出结果，再用这些结果去训练或校准一个小决策模型。本质接近蒸馏，只不过蒸出来的不是文本生成能力，而是判断——这正是 arXiv 上那篇《LLM-as-Jev: LLMs Are Already Jev-Style Decision Models — When and How to Fine-Tune Them》在讨论的事情。

所以一个实用的判断标准是：开源且提供完整后训练路径的模型，长期价值更高。只能调 API 的闭源端点适合快速验证，而你要沉淀的是自己的判断能力——那部分资产必须能落在自己的权重上。

按这个标准，目前值得优先研究的开源权重是：Cloudflare Clef / Clef-flash（Apache-2.0，有官方 RL 微调服务）、Perplexity pplx-decider-v1-27b（Apache-2.0，约 49 GiB，可自行 LoRA），以及带完整训练配方的 kev（0.8B 只要 4 GB 显存）、von、laya、decider、bekko（单张 5090 可训）、minojev（只训 0.8M head，笔记本 37 分钟）。多模态场景可以照 jev-smol 的路线：SmolVLM2-500M + 语言塔 LoRA，在 Apple Silicon 上 35 分钟出第一版。