decision.host
首页 / 模型 / bekko-system-one-v0-400m

bekko-system-one-v0-400m

hotchpotch ChoiceNoulScore 开源权重 395M(活跃 343M) curateds1mb
S1MB Task Avg
50.6
第 11 名 · 覆盖 137/137(100%)
Decision Index Full
15.2
第 87 名 · public 22.4

模型信息

厂商
hotchpotch
类别
开源权重
参数规模
395M(活跃 343M)
基座模型
Ettin-reranker(ModernBERT 架构)
权重
可下载(开源)
许可证
未标注 许可不明
输入模态
文本
决策原语
ChoiceNoulScore
延迟
17M:26,269 个判断 13.33 秒(RTX 5090)
可微调
可以
微调方法
训练代码 + 153 个训练子集(约 659 万 case)全开源;Ettin-reranker 初始化,AdamW、batch 512、warmup 10%、cosine;encoder/head 双学习率
微调硬件
单张 RTX 5090:17M≈2h、68M≈5.5h、400M≈25h

数据来源与链接

本站聚合自: curated、s1mb。 分数与链接均指向原始出处。

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
hans Noul 100.0 100.0 43.3 来源 ↗
open jev / amount extraction control v1 Noul 100.0 100.0 33.3 来源 ↗
open jev / browser control v1 Choice 100.0 100.0 67.4 来源 ↗
open jev / customer control v1 Noul 100.0 100.0 58.0 来源 ↗
open jev / drone control v1 Noul 100.0 100.0 50.2 来源 ↗
open jev / ir control v1 Noul 100.0 100.0 47.3 来源 ↗
open jev / mailroom control v1 Choice 100.0 100.0 82.9 来源 ↗
open jev / mailroom control v1 Noul 100.0 100.0 62.5 来源 ↗
open jev / phone extraction control v1 Noul 100.0 100.0 50.4 来源 ↗
dbpedia Choice 98.9 98.9 83.5 来源 ↗
open jev / sponsor segment control v1 Choice 98.7 100.0 52.2 来源 ↗
snli Choice 98.4 98.4 46.0 来源 ↗
plane Noul 98.0 100.0 11.1 来源 ↗
sgd Choice 96.6 96.6 24.4 来源 ↗
open jev / amount extraction control v1 Choice 96.1 100.0 55.0 来源 ↗
ruletaker Noul 96.0 96.0 27.7 来源 ↗
clinc Choice 94.5 99.3 57.3 来源 ↗
gretel pii Choice 94.5 94.5 43.1 来源 ↗
laya / ag news Choice 94.0 94.0 75.4 来源 ↗
laya / enron spam Noul 94.0 100.0 54.6 来源 ↗
open jev / silent failure control v1 Noul 94.0 100.0 38.8 来源 ↗
scitail Noul 94.0 98.0 53.0 来源 ↗
open jev / phone extraction control v1 Choice 93.5 100.0 32.4 来源 ↗
hwu64 Choice 92.5 92.5 56.8 来源 ↗
open jev / customer control v1 Score 91.7 99.3 36.7 来源 ↗
s1mb generalization contextual choice Choice 91.0 100.0 82.6 来源 ↗
argument quality Choice 89.8 95.9 37.4 来源 ↗
massive Choice 89.6 96.7 64.5 来源 ↗
paws Noul 88.0 88.0 45.7 来源 ↗
mtop Choice 86.9 86.9 58.6 来源 ↗
corr2cause Choice 86.7 91.7 3.8 来源 ↗
few nerd Choice 86.4 86.4 43.9 来源 ↗
miqa Choice 86.4 95.5 61.9 来源 ↗
scone Choice 86.0 92.0 34.2 来源 ↗
banking77 Choice 85.3 93.7 54.6 来源 ↗
open jev / customer control v1 Choice 82.6 82.6 64.3 来源 ↗
stepgame Choice 82.1 82.1 17.8 来源 ↗
babi nli Noul 82.0 84.0 37.0 来源 ↗
temporal nli Choice 80.7 80.7 18.3 来源 ↗
sdoh nli Noul 80.0 92.0 60.8 来源 ↗
open jev / workflow controls v1 / customer service Noul 76.3 100.0 41.6 来源 ↗
open jev / email selection control v1 Noul 73.1 100.0 40.6 来源 ↗
open jev / ir control v1 Score 72.9 98.6 10.1 来源 ↗
logical entailment Noul 72.0 72.0 12.2 来源 ↗
quartz Choice 71.4 88.1 49.1 来源 ↗
open jev / painting geometry v1 Score 71.1 100.0 15.2 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 70.8 70.8 28.4 来源 ↗
impli Noul 70.0 88.0 46.7 来源 ↗
s1mb generalization diverse choice Choice 69.6 100.0 69.5 来源 ↗
open jev / entity alignment control v1 Noul 66.7 100.0 35.9 来源 ↗
scicite Choice 66.1 71.0 44.0 来源 ↗
canttalk Noul 64.0 86.0 43.9 来源 ↗
ethos Noul 64.0 76.0 43.7 来源 ↗
open jev / ir control v1 Choice 64.0 88.0 44.8 来源 ↗
arct Choice 63.8 89.4 39.4 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 63.6 63.6 13.9 来源 ↗
open jev / painting geometry v1 Choice 63.2 100.0 46.2 来源 ↗
defeasible nli Choice 60.9 80.4 32.8 来源 ↗
openbookqa Choice 59.7 97.2 53.7 来源 ↗
open jev / vizdoom basic v1 Score 59.4 100.0 29.6 来源 ↗
arc Choice 58.8 98.5 64.4 来源 ↗
wiqa Choice 58.7 58.7 19.3 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 56.3 67.2 39.5 来源 ↗
contract nli Choice 55.8 76.0 31.8 来源 ↗
fol nli Choice 54.1 54.1 10.4 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 53.3 100.0 34.6 来源 ↗
aegis2 Noul 53.2 62.3 32.8 来源 ↗
s1mb generalization contextual noul Noul 52.0 98.0 62.0 来源 ↗
s1mb generalization diverse noul Noul 52.0 100.0 59.2 来源 ↗
ud ewt Choice 51.7 56.7 13.2 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 51.4 52.6 17.8 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 51.3 62.5 37.3 来源 ↗
synthetic relevance / nanocoir Noul 48.5 73.0 33.6 来源 ↗
patent similarity Score 48.3 48.3 17.7 来源 ↗
creak Noul 48.0 88.0 38.8 来源 ↗
boardgameqa Choice 46.9 62.5 15.6 来源 ↗
hatecheck Noul 46.0 98.0 47.5 来源 ↗
lexcomp Noul 46.0 52.0 22.5 来源 ↗
lonli Choice 45.9 86.9 39.2 来源 ↗
laya / typed decisions Score 45.8 63.5 26.5 来源 ↗
gsm8k Choice 45.7 78.6 23.5 来源 ↗
winobias Choice 45.6 91.3 30.1 来源 ↗
synthetic relevance / nanobeir / nanonq Score 44.4 49.4 9.3 来源 ↗
crows pairs Choice 43.8 70.8 30.4 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 42.9 47.0 26.6 来源 ↗
esci Choice 42.5 46.6 13.0 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 41.0 44.3 20.6 来源 ↗
open jev / citation control v1 Choice 39.4 100.0 40.9 来源 ↗
open jev / painting geometry v1 Noul 39.0 100.0 27.2 来源 ↗
qasper Noul 36.0 88.0 41.6 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 36.0 36.0 7.7 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 34.7 54.0 28.6 来源 ↗
poem sentiment Choice 34.3 57.1 4.0 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 34.0 46.7 15.2 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 33.6 44.9 17.6 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 31.9 100.0 27.8 来源 ↗
s1mb generalization contextual score Score 31.9 92.7 42.1 来源 ↗
robust lr Choice 31.7 66.7 18.8 来源 ↗
s1mb generalization diverse score Score 30.4 95.3 42.8 来源 ↗
laya / typed decisions Noul 30.4 47.8 24.4 来源 ↗
open jev / context retention control v1 Noul 30.0 100.0 19.0 来源 ↗
open jev / reasoning control v1 Choice 30.0 95.0 28.4 来源 ↗
winowhy Noul 28.0 62.0 18.8 来源 ↗
open jev / email selection control v1 Choice 27.0 100.0 23.4 来源 ↗
bbq Choice 26.7 98.3 53.8 来源 ↗
laya / typed decisions Choice 24.5 34.5 18.9 来源 ↗
ethics Noul 24.2 68.6 23.9 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 24.0 38.6 10.7 来源 ↗
followir core17 Noul 23.9 46.6 21.2 来源 ↗
cladder Noul 22.0 94.0 17.7 来源 ↗
nlsat Noul 22.0 22.0 2.1 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 22.0 48.2 15.6 来源 ↗
civil comments Noul 20.4 36.7 21.4 来源 ↗
synthetic relevance / nanocoir Score 16.3 44.3 4.3 来源 ↗
followir news21 Noul 16.0 42.7 14.9 来源 ↗
go emotions Noul 15.9 61.3 38.3 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 15.9 36.7 7.2 来源 ↗
followir robust04 Noul 15.8 90.9 46.9 来源 ↗
open jev / reasoning control v1 Noul 15.1 100.0 25.3 来源 ↗
tracie Noul 14.0 34.0 8.7 来源 ↗
hh rlhf Choice 12.8 23.1 3.1 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 12.5 46.2 25.1 来源 ↗
open jev / reasoning control v1 Score 12.4 90.7 27.7 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 12.3 41.7 17.3 来源 ↗
open jev / workflow controls v1 / security incidents Noul 11.4 100.0 37.8 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 11.2 52.1 29.0 来源 ↗
spartqa Choice 6.5 38.7 4.4 来源 ↗
open jev / tic tac toe v1 Choice 3.0 48.5 3.5 来源 ↗
argument quality Noul 1.8 23.9 5.4 来源 ↗
aqua rat Choice 0.0 77.5 10.7 来源 ↗
ethics Choice 0.0 83.3 20.9 来源 ↗
open jev / drone control v1 Choice 0.0 100.0 4.8 来源 ↗
open jev / drone control v1 Score 0.0 99.2 1.1 来源 ↗
open jev / entity alignment control v1 Score 0.0 100.0 8.1 来源 ↗
open jev / snake v1 Choice 0.0 83.5 8.1 来源 ↗
open jev / snake v1 Noul 0.0 100.0 9.0 来源 ↗
open jev / vizdoom basic v1 Noul 0.0 100.0 39.0 来源 ↗

Decision Index · 42 个基准

基准类型该模型全场最佳 全场均值对比来源
CLINC150 混合(Choice 85.9 97.4 67.8 来源 ↗
BANKING77 混合(Choice 80.3 94.1 68.7 来源 ↗
ARC-Easy 混合(Choice 79.4 99.5 87.3 来源 ↗
FinEntity 混合(Choice 72.5 97.1 73.8 来源 ↗
BPoMP 混合(Choice 72.4 97.0 73.8 来源 ↗
WinoGrande 混合(Choice 69.2 97.5 69.8 来源 ↗
RouterBench 混合(Choice 66.1 80.1 73.2 来源 ↗
ContractNLI 混合(Choice 65.1 86.5 59.9 来源 ↗
ToolRet 混合(Choice 63.9 69.1 55.1 来源 ↗
HellaSwag 混合(Choice 62.5 98.5 73.0 来源 ↗
ARC-Challenge 混合(Choice 60.4 98.2 79.4 来源 ↗
NLI4CT 混合(Choice 59.7 86.2 69.3 来源 ↗
MuSR 混合(Choice 56.9 86.2 56.0 来源 ↗
HoVer 混合(Choice 56.8 89.4 63.8 来源 ↗
CLadder 混合(Choice 55.9 97.7 62.5 来源 ↗
Humicroedit 混合(Choice 55.0 75.1 57.2 来源 ↗
PhishNChips 混合(Choice 54.4 99.9 62.1 来源 ↗
cfcolor 混合(Choice 50.2 70.2 57.9 来源 ↗
BFCL 混合(Choice 42.7 98.8 80.5 来源 ↗
VAST 混合(Choice 42.5 82.0 50.1 来源 ↗
SGD 混合(Choice 41.5 73.4 47.4 来源 ↗
MMLU 混合(Choice 41.5 91.9 64.4 来源 ↗
ANLI 混合(Choice 41.1 98.6 54.0 来源 ↗
New Yorker 混合(Choice 41.1 82.0 52.9 来源 ↗
Amazon ESCI 混合(Choice 40.8 61.6 40.9 来源 ↗
CRUXEval 混合(Choice 38.4 87.9 50.7 来源 ↗
BBH 混合(Choice 38.2 92.9 58.3 来源 ↗
BRIGHT 混合(Choice 34.8 50.9 36.1 来源 ↗
When2Call 混合(Choice 34.7 91.7 57.8 来源 ↗
Habermas 混合(Choice 31.6 71.8 42.2 来源 ↗
GSM8K 混合(Choice 29.4 83.5 36.0 来源 ↗
GPQA Diamond 混合(Choice 28.6 78.3 37.7 来源 ↗
iSarcasmEval 混合(Choice 26.0 71.0 38.4 来源 ↗
MMLU-Pro 混合(Choice 19.6 82.7 42.3 来源 ↗
HLE 混合(Choice 12.6 20.4 12.3 来源 ↗
ChessBench 混合(Choice 11.3 40.2 14.2 来源 ↗
ACOS 混合(Choice 9.7 57.3 14.6 来源 ↗
API-Bank 混合(Choice 3.9 93.1 56.3 来源 ↗
POP909 混合(Choice 2.8 74.6 12.6 来源 ↗
RAGTruth 混合(Choice 1.2 86.0 52.1 来源 ↗
Home appliances 混合(Choice 0.0 98.9 23.2 来源 ↗
SATA-Bench 混合(Choice 0.0 37.2 20.3 来源 ↗

同族条目(4)

型号参数Decision Index S1MBVision榜单
bekko-system-one-v0-400m 当前 395M(活跃 343M) 15.2 50.6 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di
bekko-system-one-v0-68m 68M(活跃 42M) 8.4 40.5 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di