Moderation (Hateful Memes)
Deciding whether a meme is hateful, where the meaning often needs both the image and its text.
评估集信息
- 所属套件
- Decision Index Vision
- 分组
- 多模态决策（图像输入）
- 决策类型
- 图像 + 文本决策
- 主指标
- accuracy
- 优化方向
- 越高越好
- 参评模型
- 20 个
- 最佳分
- 54.0
- 平均分
- 28.6
- 基准权重
- 1
- 上游数据集
- Moderation (Hateful Memes)
- 数据许可证
- 见上游原始数据集
这个评估集测什么
A content-moderation call is a binary decision with real consequences.
Binary hateful / not hateful; a caption-only control is reported separately.
示例：Is this meme, its picture and caption together, hateful or not?
在该评估集上的模型成绩（40 个）
| # | 模型 | 得分 | 对比 | 其他指标 | 模态 | 官方链接 |
|---|---|---|---|---|---|---|
| 1 | Jev-Omni (12B)
社区 · Decision Index · Vision |
54.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 2 | JEV-27B-VL
未标注 · Decision Index · Vision |
53.0 | private | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 3 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
48.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 4 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
46.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 5 | Winnow 12B
EldanRing · Decision Index · Vision |
45.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 6 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
45.0 | private | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 7 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
42.8 | public | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 8 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
42.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 9 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
42.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 10 | razorback16 diffgemma
· Decision Index · Vision |
41.1 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 11 | JEV-27B-VL
未标注 · Decision Index · Vision |
40.3 | public | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 12 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
38.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 13 | djev (26B-A4B)
· Decision Index · Vision |
38.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 14 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
38.2 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 15 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
36.4 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 16 | Jev-Omni (12B)
社区 · Decision Index · Vision |
35.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 17 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
34.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 18 | Winnow 12B
EldanRing · Decision Index · Vision |
31.6 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 19 | JPT-9B
社区 · Decision Index · Vision |
29.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 20 | mmastrac diffgemma
· Decision Index · Vision |
28.9 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 21 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
26.6 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 22 | JPT-4B
社区 · Decision Index · Vision |
26.3 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 23 | JPT-4B
社区 · Decision Index · Vision |
24.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 24 | JPT-9B
社区 · Decision Index · Vision |
23.2 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 25 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
22.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 26 | djev (26B-A4B)
· Decision Index · Vision |
21.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 27 | mmastrac diffgemma
· Decision Index · Vision |
21.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 28 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
19.9 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 29 | Winnow-E4B
EldanRing · Decision Index · Vision |
19.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 30 | JPT-0.8B
社区 · Decision Index · Vision |
17.0 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 31 | Winnow-E4B
EldanRing · Decision Index · Vision |
15.9 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 32 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
13.9 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 33 | JPT-0.8B
社区 · Decision Index · Vision |
12.8 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 34 | OneJev 0.8B
OmniJev · Decision Index · Vision |
12.6 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 35 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
12.4 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 36 | razorback16 diffgemma
· Decision Index · Vision |
12.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 37 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
12.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 38 | OneJev 0.8B
OmniJev · Decision Index · Vision |
9.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 39 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
8.0 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 40 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
7.0 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ |