我的公司能训练自己的 Jev 级决策模型吗?
可以。EnvLoop 使用基于 Qwen/Qwen3.8-27B 的实验性 Pev-27B 标签 token 配方,在公司自己的数据上后训练决策模型,该配方由我们的团队为你的项目启用。EnvLoop 已发布的 Pev-27B 展示了这一方法:在 Pev-Bench 公开测试集上,类别宏平均准确率为 0.915,TypeSafe 的 Jev 为 0.788。用你的数据训练的模型,以你自己的留出集评测。
01 / 定义
个人智能体处理每个请求时都要做许多细小的判断:用户会选哪个选项、某个操作是否需要批准、哪些内容可以分享。决策模型把每类判断视为一个选项固定、类型明确的问题类别。它只读取一次上下文,就为每个选项返回概率,智能体据此直接执行,或向用户确认。
每个问题都属于一个选项固定的类别,例如通知级别或审批决定,因此每个答案都可以检验和比较。
Pev-27B 以单个选项标签 token 进行监督,因此每个决策都从一次前向计算中读取,而不是从生成的文本中解析。
温度校准把选项得分转换为与模型实际正确率相符的概率,并用 Brier 分数和期望校准误差(ECE)衡量。
02 / 校准
知道每个答案可靠程度的智能体,可以直接执行有把握的决策,对不确定的决策再询问用户。在 Pev 研究预注册的一次性隐藏门槛测试中,类别宏平均准确率从 0.754 提升到 0.905,安全类漏报减少,模型在 5% 错误预算内可自主回答的问题比例从 0.54 提升到 0.93。
03 / 结果
Pev-Bench 针对不在训练数据中的用户,考察个人智能体的七类决策。在包含 720 名新用户的公开 TEST 集上,已发布的 Pev-27B 在所有被评测模型中类别宏平均准确率最高,Brier 分数最低(0.125);被评测模型包括第三方决策模型 TypeSafe 的 Jev 和 Kev-27B。Brier 与 ECE 越低越好。
左右滑动,比较完整评分。
| 排名 | 模型 | 类别宏平均准确率 ↑ | Brier ↓ | ECE ↓ |
|---|---|---|---|---|
| 1 | Pev-27B微调模型(基于 Qwen3.8-27B 的 LoRA) | 0.915 | 0.125 | 0.065 |
| 2 | gpt-6-astraAPI 模型 | 0.873 | 0.180 | 0.074 |
| 3 | Kev-27B第三方决策模型 | 0.823 | 0.218 | 0.074 |
| 4 | Jev第三方决策模型(TypeSafe) | 0.788 | 0.266 | 0.123 |
| 5 | Qwen3.8-27B开放权重基座模型 | 0.762 | 0.264 | 0.067 |
| 6 | Qwen3.5-4B开放权重基座模型 | 0.652 | 0.389 | 0.074 |
04 / 在 EnvLoop 上
在 EnvLoop 上训练自己的决策模型,使用基于 Qwen/Qwen3.8-27B 的实验性 Pev-27B 标签 token 配方,需与我们的团队安排。其预设包括 Pev 已发布的训练运行,以及基于公开 financial-decision-bench 数据集的金融决策预设。结果取决于你的数据:上面的分数属于已发布的 Pev-27B,你训练的模型以你自己的留出数据评测。
联系我们的团队,为你的项目启用实验性的 Pev-27B 标签 token 配方,并规划一次试运行。
由管理员把你准备好的训练集和验证集文件导入项目,作为训练数据快照。
通过 el job submit --type train 提交使用 pev27 配方、基于 Qwen/Qwen3.8-27B 的请求。
训练得到的 Checkpoint 尚未拟合校准。部署前,请先拟合校准、在留出数据上评测决策质量,并与我们的团队确认导出与推理方式。
05 / 常见问题
可以。EnvLoop 使用基于 Qwen/Qwen3.8-27B 的实验性 Pev-27B 标签 token 配方,在公司自己的数据上后训练决策模型,该配方由我们的团队为你的项目启用。EnvLoop 已发布的 Pev-27B 展示了这一方法:在 Pev-Bench 公开测试集上,类别宏平均准确率为 0.915,TypeSafe 的 Jev 为 0.788。用你的数据训练的模型,以你自己的留出集评测。
不是。Jev 是 TypeSafe 托管的决策模型,Kev-27B 同样是第三方模型;二者在 Pev-Bench 中作为第三方基线出现。EnvLoop 自己的决策模型是 Pev-27B。
对话模型生成自由文本,答案需要从中解析。决策模型通过一次前向计算,为类型明确的问题的每个选项返回概率,智能体可以把答案与阈值比较,决定直接执行还是询问用户。
Pev-Bench 在不属于训练数据的用户上计算类别宏平均准确率,即七个决策类别准确率的不加权平均。其 TEST 集的两半分别由不同的语言模型渲染,每个答案都由无需联网的 Harbor Verifier 评分。