はじめにリーダーボードモデルハードウェア評価マーケットプレイスレンタルProAPIドキュメント
言語
Atomic Chat campaign banner

モデル

166 件のモデルグループ · 合計 577 件

Qwen3.6-27B

Qwen / Qwen3.6-27B

28B
Qwenimage-text-to-text合計 622 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
最高275 tok/s
中央値43.6 tok/s
最小1.6 tok/s
ベンチマークを見る →

Qwen3.6-35B-A3B

Qwen / Qwen3.6-35B-A3B

MoE3B アクティブ / 36B 合計
Qwenimage-text-to-text合計 354 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高391 tok/s
中央値63.3 tok/s
最小6.4 tok/s
ベンチマークを見る →

gemma-4-26B-A4B

google / gemma-4-26B-A4B

MoE4B アクティブ / 27B 合計
Gemmaimage-text-to-text合計 147 件のベンチマーク
transformerssafetensorsgemma4image-text-to-text
ベンチマークを見る →

Qwen3.5-9B-Base

Qwen / Qwen3.5-9B-Base

10B
Qwenimage-text-to-text合計 137 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
ベンチマークを見る →

MiniMax-M2.7

MiniMaxAI / MiniMax-M2.7

MoE229B
Minimaxtext-generation合計 117 件のベンチマーク
transformerssafetensorsminimax_m2text-generation
最高496 tok/s
中央値32.2 tok/s
最小0.5 tok/s
ベンチマークを見る →

gemma-4-E4B

google / gemma-4-E4B

8B
Gemmaany-to-any合計 84 件のベンチマーク
transformerssafetensorsgemma4image-text-to-text
最高70.5 tok/s
中央値70.5 tok/s
最小70.5 tok/s
ベンチマークを見る →

Qwen3.5-35B-A3B-Base

Qwen / Qwen3.5-35B-A3B-Base

MoE3B アクティブ / 36B 合計
Qwenimage-text-to-text合計 80 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
ベンチマークを見る →

DeepSeek-V4-Flash

deepseek-ai / DeepSeek-V4-Flash

MoE158B
Deepseektext-generation合計 69 件のベンチマーク
transformerssafetensorsdeepseek_v4text-generation
最高262 tok/s
中央値20.6 tok/s
最小7.0 tok/s
Eval score· 1 evalIQ3_XXS
94.8%
ベンチマークを見る →

Qwen3.5-27B

Qwen / Qwen3.5-27B

28B
Qwenimage-text-to-text合計 69 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
最高287 tok/s
中央値25.1 tok/s
最小2.2 tok/s
ベンチマークを見る →

gemma-4-12B

google / gemma-4-12B

12B
Gemmaany-to-any合計 64 件のベンチマーク
transformerssafetensorsgemma4_unifiedimage-text-to-text
最高25.8 tok/s
中央値25.8 tok/s
最小25.8 tok/s
ベンチマークを見る →

LFM2.5-8B-A1B-Base

LiquidAI / LFM2.5-8B-A1B-Base

MoE1B アクティブ / 8B 合計
text-generation合計 61 件のベンチマーク
transformerssafetensorslfm2_moetext-generation
ベンチマークを見る →

gemma-4-31B

google / gemma-4-31B

33B
Gemmaimage-text-to-text合計 59 件のベンチマーク
transformerssafetensorsgemma4image-text-to-text
ベンチマークを見る →

Ornith-1.0-35B

deepreinforce-ai / Ornith-1.0-35B

MoE0M
Qwentext-generation合計 50 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高164 tok/s
中央値74.3 tok/s
最小54.1 tok/s
ベンチマークを見る →

LFM2-350M

LiquidAI / LFM2-350M

0M
text-generation合計 38 件のベンチマーク
transformerssafetensorslfm2text-generation
最高637 tok/s
中央値232 tok/s
最小142 tok/s
ベンチマークを見る →

Ornith-1.0-9B

deepreinforce-ai / Ornith-1.0-9B

0M
Qwentext-generation合計 38 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
最高77.5 tok/s
中央値25.6 tok/s
最小3.8 tok/s
Eval score· 3 evalsQ4_K_M
56.0%
ベンチマークを見る →

Ornstein3.6-27B-MTP-NSC-ACE-SABER

GestaltLabs / Ornstein3.6-27B-MTP-NSC-ACE-SABER

27B
Qwenimage-text-to-text合計 37 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
ベンチマークを見る →

Qwen3-8B-Base

Qwen / Qwen3-8B-Base

8B
Qwentext-generation合計 35 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

Nex-N2-mini

nex-agi / Nex-N2-mini

MoE35B
Qwentext-generation合計 34 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高107 tok/s
中央値104 tok/s
最小40.5 tok/s
ベンチマークを見る →

Qwen3-Coder-30B-A3B-Instruct

Qwen / Qwen3-Coder-30B-A3B-Instruct

MoE3B アクティブ / 31B 合計
Qwentext-generation合計 33 件のベンチマーク
transformerssafetensorsqwen3_moetext-generation
最高101 tok/s
中央値84.1 tok/s
最小43.8 tok/s
ベンチマークを見る →

gpt-oss-20b

openai / gpt-oss-20b

MoE22B
Gpttext-generation合計 31 件のベンチマーク
transformerssafetensorsgpt_osstext-generation
最高991 tok/s
中央値96.7 tok/s
最小12.0 tok/s
ベンチマークを見る →

Meta-Llama-3-8B-Instruct

meta-llama / Meta-Llama-3-8B-Instruct

8B
Llamatext-generation合計 31 件のベンチマーク
transformerssafetensorsllamatext-generation
最高148 tok/s
中央値48.4 tok/s
最小13.6 tok/s
ベンチマークを見る →

gemma-4-E2B

google / gemma-4-E2B

5B
Gemmaany-to-any合計 29 件のベンチマーク
transformerssafetensorsgemma4image-text-to-text
ベンチマークを見る →

Qwen3.5-122B-A10B

Qwen / Qwen3.5-122B-A10B

MoE10B アクティブ / 125B 合計
Qwenimage-text-to-text合計 28 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高27.3 tok/s
中央値23.4 tok/s
最小3.2 tok/s
ベンチマークを見る →

LFM2.5-1.2B-Base

LiquidAI / LFM2.5-1.2B-Base

1B
text-generation合計 28 件のベンチマーク
transformerssafetensorslfm2text-generation
ベンチマークを見る →

MiniCPM5-1B-GGUF

openbmb / MiniCPM5-1B-GGUF

1B
Llamatext-generation合計 25 件のベンチマーク
transformersggufminicpmminicpm5
最高222 tok/s
中央値98.1 tok/s
最小32.2 tok/s
Eval score· 3 evals
52.2%
ベンチマークを見る →

NVIDIA-Nemotron-Nano-12B-v2-Base

nvidia / NVIDIA-Nemotron-Nano-12B-v2-Base

12B
text-generation合計 23 件のベンチマーク
transformerssafetensorsnvidiapytorch
ベンチマークを見る →

Agents-A1

InternScience / Agents-A1

MoE35B
Qwentext-generation合計 23 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高96.4 tok/s
中央値76.7 tok/s
最小13.6 tok/s
Eval score· 1 eval
100.0%
ベンチマークを見る →

Ornith-1.0-9B-GGUF

deepreinforce-ai / Ornith-1.0-9B-GGUF

9B
text-generation合計 23 件のベンチマーク
transformersgguftext-generationlicense:mit
最高84.7 tok/s
中央値32.0 tok/s
最小11.0 tok/s
Eval score· 1 eval
89.4%
ベンチマークを見る →

InternViT-300M-448px

OpenGVLab / InternViT-300M-448px

0M
image-feature-extraction合計 22 件のベンチマーク
transformerssafetensorsintern_vit_6bfeature-extraction
ベンチマークを見る →

Qwen2.5-14B

Qwen / Qwen2.5-14B

15B
Qwentext-generation合計 22 件のベンチマーク
safetensorsqwen2text-generationconversational
ベンチマークを見る →

Qwen2.5-7B

Qwen / Qwen2.5-7B

8B
Qwentext-generation合計 20 件のベンチマーク
transformerssafetensorsqwen2text-generation
最高1.4k tok/s
中央値1.4k tok/s
最小1.4k tok/s
ベンチマークを見る →

Qwen3-Coder-Next

Qwen / Qwen3-Coder-Next

MoE80B
Qwentext-generation合計 20 件のベンチマーク
transformerssafetensorsqwen3_nexttext-generation
最高80.8 tok/s
中央値55.8 tok/s
最小47.0 tok/s
ベンチマークを見る →

phi-4

microsoft / phi-4

15B
Phitext-generation合計 19 件のベンチマーク
transformerssafetensorsphi3text-generation
最高77.0 tok/s
中央値36.0 tok/s
最小36.0 tok/s
ベンチマークを見る →

Ornith-1.0-35B-GGUF

deepreinforce-ai / Ornith-1.0-35B-GGUF

35B
text-generation合計 19 件のベンチマーク
transformersgguftext-generationlicense:mit
最高310 tok/s
中央値75.5 tok/s
最小27.4 tok/s
ベンチマークを見る →

Qwen3.5-4B-Base

Qwen / Qwen3.5-4B-Base

5B
Qwenimage-text-to-text合計 19 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
ベンチマークを見る →

gemma-3-12b-pt

google / gemma-3-12b-pt

12B
Gemmaimage-text-to-text合計 19 件のベンチマーク
transformerssafetensorsgemma3image-text-to-text
ベンチマークを見る →

DeepSeek-R1-Distill-Qwen-7B

deepseek-ai / DeepSeek-R1-Distill-Qwen-7B

8B
Deepseek-R1text-generation合計 18 件のベンチマーク
transformerssafetensorsqwen2text-generation
最高144 tok/s
中央値69.0 tok/s
最小14.0 tok/s
ベンチマークを見る →

gpt-oss-120b

openai / gpt-oss-120b

MoE120B
Gpttext-generation合計 17 件のベンチマーク
transformerssafetensorsgpt_osstext-generation
最高223 tok/s
中央値70.7 tok/s
最小38.8 tok/s
ベンチマークを見る →

Trinity-Mini-Base-Pre-Anneal

arcee-ai / Trinity-Mini-Base-Pre-Anneal

MoE26B
Arceetext-generation合計 16 件のベンチマーク
transformerssafetensorsafmoetext-generation
ベンチマークを見る →

GLM-5.2

zai-org / GLM-5.2

MoE753B
text-generation合計 15 件のベンチマーク
transformerssafetensorsglm_moe_dsatext-generation
ベンチマークを見る →

Llama-3.1-8B

meta-llama / Llama-3.1-8B

8B
Llamatext-generation合計 15 件のベンチマーク
transformerssafetensorsllamatext-generation
ベンチマークを見る →

gemma-3-1b-pt

google / gemma-3-1b-pt

1B
Gemmatext-generation合計 15 件のベンチマーク
transformerssafetensorsgemma3_texttext-generation
ベンチマークを見る →

reka-flash-3

RekaAI / reka-flash-3

21B
Llama合計 14 件のベンチマーク
safetensorsllamalicense:apache-2.0region:us
最高23.9 tok/s
中央値22.3 tok/s
最小6.0 tok/s
ベンチマークを見る →

LFM2-8B-A1B

LiquidAI / LFM2-8B-A1B

MoE1B アクティブ / 8B 合計
text-generation合計 14 件のベンチマーク
transformerssafetensorslfm2_moetext-generation
最高18.3 tok/s
中央値18.3 tok/s
最小9.9 tok/s
ベンチマークを見る →

Qwen3-14B-Base

Qwen / Qwen3-14B-Base

15B
Qwentext-generation合計 14 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

MiniCPM5-1B

openbmb / MiniCPM5-1B

1B
Llamatext-generation合計 14 件のベンチマーク
transformerssafetensorsllamatext-generation
最高158 tok/s
中央値103 tok/s
最小60.7 tok/s
Eval score· 2 evals
34.1%
ベンチマークを見る →

QUEST-30B-RL

osunlp / QUEST-30B-RL

MoE31B
Qwentext-generation合計 13 件のベンチマーク
transformerssafetensorsqwen3_moetext-generation
ベンチマークを見る →

GLM-4.7-Flash

zai-org / GLM-4.7-Flash

MoE31B
text-generation合計 13 件のベンチマーク
transformerssafetensorsglm4_moe_litetext-generation
最高212 tok/s
中央値135 tok/s
最小21.5 tok/s
ベンチマークを見る →

Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16

nvidia / Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16

MoE3B アクティブ / 33B 合計
any-to-any合計 13 件のベンチマーク
transformerssafetensorsNemotronH_Nano_Omni_Reasoning_V3feature-extraction
最高107 tok/s
中央値90.6 tok/s
最小57.9 tok/s
Eval score· 1 eval
100.0%
ベンチマークを見る →

Qwen3-4B-Base

Qwen / Qwen3-4B-Base

4B
Qwentext-generation合計 13 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

Mistral-Medium-3.5-128B

mistralai / Mistral-Medium-3.5-128B

128B
Mistral合計 13 件のベンチマーク
safetensorsmistral3vLLMen
最高7.4 tok/s
中央値6.5 tok/s
最小6.2 tok/s
ベンチマークを見る →

DeepSeek-R1-Distill-Qwen-14B

deepseek-ai / DeepSeek-R1-Distill-Qwen-14B

15B
Deepseek-R1text-generation合計 12 件のベンチマーク
transformerssafetensorsarxiv:2501.12948license:mit
最高24.4 tok/s
中央値24.4 tok/s
最小24.4 tok/s
ベンチマークを見る →

Mellum2-12B-A2.5B-Instruct

JetBrains / Mellum2-12B-A2.5B-Instruct

MoE3B アクティブ / 12B 合計
text-generation合計 12 件のベンチマーク
transformerssafetensorsmellumtext-generation
最高83.5 tok/s
中央値62.6 tok/s
最小41.8 tok/s
ベンチマークを見る →

Qwen2.5-3B

Qwen / Qwen2.5-3B

3B
Qwentext-generation合計 12 件のベンチマーク
safetensorsqwen2text-generationconversational
ベンチマークを見る →

Nemotron-Cascade-2-30B-A3B

nvidia / Nemotron-Cascade-2-30B-A3B

MoE3B アクティブ / 32B 合計
text-generation合計 12 件のベンチマーク
transformerssafetensorsnemotron_htext-generation
最高141 tok/s
中央値95.4 tok/s
最小89.8 tok/s
ベンチマークを見る →

Qwen3.5-0.8B-Base

Qwen / Qwen3.5-0.8B-Base

1B
Qwenimage-text-to-text合計 11 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
最高2.7k tok/s
中央値2.7k tok/s
最小2.7k tok/s
ベンチマークを見る →

Qwen3-0.6B-Base

Qwen / Qwen3-0.6B-Base

1B
Qwentext-generation合計 11 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

MiniMax-M2.5

MiniMaxAI / MiniMax-M2.5

MoE229B
Minimaxtext-generation合計 11 件のベンチマーク
transformerssafetensorsminimax_m2text-generation
最高504 tok/s
中央値419 tok/s
最小334 tok/s
ベンチマークを見る →

GLM-4.5-Air

zai-org / GLM-4.5-Air

MoE110B
text-generation合計 11 件のベンチマーク
transformerssafetensorsglm4_moetext-generation
最高2.5k tok/s
中央値106 tok/s
最小6.2 tok/s
ベンチマークを見る →

Qwen3-30B-A3B-Base

Qwen / Qwen3-30B-A3B-Base

MoE3B アクティブ / 31B 合計
Qwentext-generation合計 11 件のベンチマーク
transformerssafetensorsqwen3_moetext-generation
ベンチマークを見る →

granite-4.0-h-micro

ibm-granite / granite-4.0-h-micro

MoE3B
text-generation合計 11 件のベンチマーク
transformerssafetensorsgranitemoehybridtext-generation
最高141 tok/s
中央値45.0 tok/s
最小7.9 tok/s
Eval score· 3 evalsQ4_K_M
53.3%
ベンチマークを見る →

Seed-OSS-36B-Instruct

ByteDance-Seed / Seed-OSS-36B-Instruct

36B
text-generation合計 10 件のベンチマーク
transformerssafetensorsseed_osstext-generation
ベンチマークを見る →

Qwen3.6-27B-DFlash

z-lab / Qwen3.6-27B-DFlash

2B
Qwentext-generation合計 10 件のベンチマーク
transformerssafetensorsqwen3feature-extraction
最高215 tok/s
中央値39.2 tok/s
最小26.9 tok/s
ベンチマークを見る →

Phi-4-mini-reasoning

microsoft / Phi-4-mini-reasoning

4B
Phitext-generation合計 9 件のベンチマーク
transformerssafetensorsphi3text-generation
最高33.2 tok/s
中央値33.2 tok/s
最小33.2 tok/s
ベンチマークを見る →

Qwen3-1.7B-Base

Qwen / Qwen3-1.7B-Base

2B
Qwentext-generation合計 9 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

MiMo-V2.5

XiaomiMiMo / MiMo-V2.5

MoE311B
text-generation合計 9 件のベンチマーク
transformerssafetensorsmimo_v2text-generation
最高33.9 tok/s
中央値32.7 tok/s
最小28.1 tok/s
ベンチマークを見る →

Mistral-Small-24B-Base-2501

mistralai / Mistral-Small-24B-Base-2501

24B
Mistral合計 8 件のベンチマーク
vllmsafetensorsmistralmistral-common
ベンチマークを見る →

Nemotron-Cascade-14B-Thinking

nvidia / Nemotron-Cascade-14B-Thinking

15B
Qwentext-generation合計 8 件のベンチマーク
transformerssafetensorsqwen3text-generation
最高35.7 tok/s
中央値29.7 tok/s
最小6.2 tok/s
ベンチマークを見る →

internlm3-8b-instruct

internlm / internlm3-8b-instruct

9B
Internlmtext-generation合計 8 件のベンチマーク
safetensorsinternlm3text-generationconversational
ベンチマークを見る →

Nemotron-Cascade-8B

nvidia / Nemotron-Cascade-8B

8B
Qwentext-generation合計 8 件のベンチマーク
transformerssafetensorsqwen3text-generation
ベンチマークを見る →

UI-TARS-7B-DPO

ByteDance-Seed / UI-TARS-7B-DPO

8B
Qwenimage-text-to-text合計 8 件のベンチマーク
transformerssafetensorsqwen2_vlimage-text-to-text
ベンチマークを見る →

AceReason-Nemotron-1.1-7B

nvidia / AceReason-Nemotron-1.1-7B

8B
Qwentext-generation合計 8 件のベンチマーク
transformerssafetensorsqwen2text-generation
ベンチマークを見る →

Laguna-XS-2.1-GGUF

poolside / Laguna-XS-2.1-GGUF

Llamatext-generation合計 8 件のベンチマーク
transformersgguflaguna-xs-2.1llama.cpp
最高283 tok/s
中央値120 tok/s
最小16.7 tok/s
ベンチマークを見る →

Ling-2.6-flash

inclusionAI / Ling-2.6-flash

MoE107B
text-generation合計 8 件のベンチマーク
safetensorsbailing_hybridtext-generationconversational
最高94.9 tok/s
中央値86.2 tok/s
最小82.3 tok/s
ベンチマークを見る →

Qwen2.5-72B

Qwen / Qwen2.5-72B

73B
Qwentext-generation合計 8 件のベンチマーク
transformerssafetensorsqwen2text-generation
ベンチマークを見る →

InternViT-6B-224px

OpenGVLab / InternViT-6B-224px

6B
image-feature-extraction合計 7 件のベンチマーク
transformerspytorchintern_vit_6bfeature-extraction
ベンチマークを見る →

GLM-Z1-32B-0414

zai-org / GLM-Z1-32B-0414

33B
text-generation合計 7 件のベンチマーク
transformerssafetensorsglm4text-generation
最高16.6 tok/s
中央値15.5 tok/s
最小5.7 tok/s
ベンチマークを見る →

Olmo-3-1125-32B

allenai / Olmo-3-1125-32B

32B
text-generation合計 7 件のベンチマーク
transformerssafetensorsolmo3text-generation
ベンチマークを見る →

Llama-3.2-1B-Instruct

meta-llama / Llama-3.2-1B-Instruct

1B
Llamatext-generation合計 7 件のベンチマーク
transformerssafetensorsllamatext-generation
最高448 tok/s
中央値184 tok/s
最小68.2 tok/s
ベンチマークを見る →

North-Mini-Code-1.0

CohereLabs / North-Mini-Code-1.0

MoE30B
Coheretext-generation合計 7 件のベンチマーク
transformerssafetensorscohere2_moetext-generation
最高258 tok/s
中央値91.0 tok/s
最小74.9 tok/s
ベンチマークを見る →

Qwen2.5-32B

Qwen / Qwen2.5-32B

33B
Qwentext-generation合計 6 件のベンチマーク
safetensorsqwen2text-generationconversational
ベンチマークを見る →

rwkv-7-world

BlinkDL / rwkv-7-world

Starcodertext-generation合計 6 件のベンチマーク
rwkvpytorchtext-generationcausal-lm
ベンチマークを見る →

Hy-MT2-7B

tencent / Hy-MT2-7B

8B
translation合計 6 件のベンチマーク
transformerssafetensorshunyuan_v1_densetext-generation
最高42.2 tok/s
中央値29.3 tok/s
最小25.5 tok/s
Eval score· 3 evals
76.0%
ベンチマークを見る →

Mistral-Small-3.1-24B-Base-2503

mistralai / Mistral-Small-3.1-24B-Base-2503

24B
Mistral合計 6 件のベンチマーク
vllmsafetensorsmistral3mistral-common
ベンチマークを見る →

Step-3.7-Flash

stepfun-ai / Step-3.7-Flash

MoE201B
image-text-to-text合計 6 件のベンチマーク
transformerssafetensorsstep3p7text-generation
ベンチマークを見る →

DeepSeek-Coder-V2-Lite-Instruct

deepseek-ai / DeepSeek-Coder-V2-Lite-Instruct

MoE16B
Deepseek-Codertext-generation合計 6 件のベンチマーク
transformerssafetensorsdeepseek_v2text-generation
最高150 tok/s
中央値87.0 tok/s
最小39.0 tok/s
ベンチマークを見る →

SmolLM2-135M

HuggingFaceTB / SmolLM2-135M

0M
Llamatext-generation合計 5 件のベンチマーク
transformerssafetensorsllamatext-generation
ベンチマークを見る →

DeepSeek-R1-Distill-Qwen-32B

deepseek-ai / DeepSeek-R1-Distill-Qwen-32B

33B
Deepseek-R1text-generation合計 5 件のベンチマーク
transformerssafetensorsqwen2text-generation
ベンチマークを見る →

Llama-2-7b-hf

meta-llama / Llama-2-7b-hf

7B
Llamatext-generation合計 5 件のベンチマーク
transformerspytorchsafetensorsllama
最高202 tok/s
中央値50.4 tok/s
最小19.1 tok/s
ベンチマークを見る →

NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

nvidia / NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

MoE3B アクティブ / 32B 合計
text-generation合計 5 件のベンチマーク
transformerssafetensorsnemotron_htext-generation
最高313 tok/s
中央値286 tok/s
最小117 tok/s
ベンチマークを見る →

Qwen3.5-2B-Base

Qwen / Qwen3.5-2B-Base

2B
Qwenimage-text-to-text合計 5 件のベンチマーク
transformerssafetensorsqwen3_5image-text-to-text
ベンチマークを見る →

Qwen2.5-1.5B

Qwen / Qwen2.5-1.5B

2B
Qwentext-generation合計 5 件のベンチマーク
transformerssafetensorsqwen2text-generation
ベンチマークを見る →

NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4

nvidia / NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4

MoE12B アクティブ / 67B 合計
Opttext-generation合計 5 件のベンチマーク
transformerssafetensorsnemotron_htext-generation
最高262 tok/s
中央値175 tok/s
最小49.6 tok/s
ベンチマークを見る →

Tinystories-gpt-0.1-3m

segestic / Tinystories-gpt-0.1-3m

0M
Gpttext-generation合計 4 件のベンチマーク
transformerssafetensorsgpt2text-generation
最高5.0k tok/s
中央値4.9k tok/s
最小4.7k tok/s
ベンチマークを見る →

GLM-Z1-Rumination-32B-0414

zai-org / GLM-Z1-Rumination-32B-0414

33B
text-generation合計 4 件のベンチマーク
transformerssafetensorsglm4text-generation
最高16.3 tok/s
中央値15.8 tok/s
最小14.9 tok/s
ベンチマークを見る →

NVIDIA-Nemotron-3-Super-120B-A12B-BF16

nvidia / NVIDIA-Nemotron-3-Super-120B-A12B-BF16

MoE12B アクティブ / 124B 合計
text-generation合計 4 件のベンチマーク
transformerssafetensorsnemotron_htext-generation
ベンチマークを見る →

EXAONE-3.5-7.8B-Instruct

LGAI-EXAONE / EXAONE-3.5-7.8B-Instruct

8B
text-generation合計 4 件のベンチマーク
transformerssafetensorsexaonetext-generation
最高24.7 tok/s
中央値22.4 tok/s
最小11.2 tok/s
ベンチマークを見る →

Qwen3-Coder-Next-FP8

Qwen / Qwen3-Coder-Next-FP8

MoE80B
Qwentext-generation合計 4 件のベンチマーク
transformerssafetensorsqwen3_nexttext-generation
最高190 tok/s
中央値146 tok/s
最小112 tok/s
ベンチマークを見る →

gemma-3n-E4B

google / gemma-3n-E4B

8B
Gemmaimage-text-to-text合計 4 件のベンチマーク
transformerssafetensorsgemma3nimage-text-to-text
ベンチマークを見る →

MiniMax-M2

MiniMaxAI / MiniMax-M2

MoE229B
Minimaxtext-generation合計 4 件のベンチマーク
transformerssafetensorsminimax_m2text-generation
最高493 tok/s
中央値398 tok/s
最小303 tok/s
ベンチマークを見る →

GLM-5.1

zai-org / GLM-5.1

MoE754B
text-generation合計 4 件のベンチマーク
transformerssafetensorsglm_moe_dsatext-generation
ベンチマークを見る →

Qwen3-32B

Qwen / Qwen3-32B

33B
Qwentext-generation合計 4 件のベンチマーク
transformerssafetensorsqwen3text-generation
最高79.3 tok/s
中央値22.8 tok/s
最小3.2 tok/s
ベンチマークを見る →

granite-4.1-30b

ibm-granite / granite-4.1-30b

29B
text-generation合計 4 件のベンチマーク
transformerssafetensorsgranitetext-generation
最高17.9 tok/s
中央値16.4 tok/s
最小15.6 tok/s
ベンチマークを見る →

Gemopus-4-26B-A4B-it

Jackrong / Gemopus-4-26B-A4B-it

MoE4B アクティブ / 27B 合計
Gemmatext-generation合計 4 件のベンチマーク
safetensorsgemma4gemmainstruction-tuned
最高64.3 tok/s
中央値55.0 tok/s
最小45.7 tok/s
ベンチマークを見る →

Falcon-H1-0.5B-Base

tiiuae / Falcon-H1-0.5B-Base

1B
Falcontext-generation合計 3 件のベンチマーク
transformerssafetensorsfalcon_h1text-generation
ベンチマークを見る →

functiongemma-270m-it

google / functiongemma-270m-it

0M
Gemmatext-generation合計 3 件のベンチマーク
transformerssafetensorsgemma3gemma
最高206 tok/s
中央値193 tok/s
最小169 tok/s
ベンチマークを見る →

SmolLM2-360M

HuggingFaceTB / SmolLM2-360M

0M
Llamatext-generation合計 3 件のベンチマーク
transformerssafetensorsllamatext-generation
ベンチマークを見る →

Falcon-H1-Tiny-90M-Instruct

tiiuae / Falcon-H1-Tiny-90M-Instruct

0M
Falcontext-generation合計 3 件のベンチマーク
transformerssafetensorsfalcon_h1text-generation
最高495 tok/s
中央値425 tok/s
最小338 tok/s
ベンチマークを見る →

gemma-3-270m

google / gemma-3-270m

0M
Gemmatext-generation合計 3 件のベンチマーク
transformerssafetensorsgemma3_texttext-generation
ベンチマークを見る →

Ornith-1.0-397B

deepreinforce-ai / Ornith-1.0-397B

MoE397B
Qwentext-generation合計 3 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
ベンチマークを見る →

Mellum2-12B-A2.5B-Thinking

JetBrains / Mellum2-12B-A2.5B-Thinking

MoE3B アクティブ / 12B 合計
text-generation合計 3 件のベンチマーク
transformerssafetensorsmellumtext-generation
ベンチマークを見る →

Qwen3-VL-8B-Instruct

Qwen / Qwen3-VL-8B-Instruct

9B
Qwenimage-text-to-text合計 3 件のベンチマーク
transformerssafetensorsqwen3_vlimage-text-to-text
最高95.9 tok/s
中央値95.9 tok/s
最小95.9 tok/s
ベンチマークを見る →

diffusiongemma-26B-A4B-it

google / diffusiongemma-26B-A4B-it

MoE4B アクティブ / 26B 合計
Gemmaimage-text-to-text合計 3 件のベンチマーク
transformerssafetensorsdiffusion_gemmaimage-text-to-text
最高529 tok/s
中央値529 tok/s
最小529 tok/s
ベンチマークを見る →

Qwen2.5-0.5B

Qwen / Qwen2.5-0.5B

0M
Qwentext-generation合計 3 件のベンチマーク
transformerssafetensorsqwen2text-generation
ベンチマークを見る →

gemma-3-4b-pt

google / gemma-3-4b-pt

4B
Gemmaimage-text-to-text合計 3 件のベンチマーク
transformerssafetensorsgemma3image-text-to-text
ベンチマークを見る →

MiniCPM3-4B

openbmb / MiniCPM3-4B

4B
text-generation合計 3 件のベンチマーク
transformerspytorchminicpm3text-generation
最高35.6 tok/s
中央値29.4 tok/s
最小6.1 tok/s
Eval score· 2 evals
100.0%
ベンチマークを見る →

OLMo-2-0425-1B

allenai / OLMo-2-0425-1B

1B
text-generation合計 2 件のベンチマーク
transformerssafetensorsolmo2text-generation
ベンチマークを見る →

LFM2-700M

LiquidAI / LFM2-700M

1B
text-generation合計 2 件のベンチマーク
transformerssafetensorslfm2text-generation
最高114 tok/s
中央値92.1 tok/s
最小70.3 tok/s
ベンチマークを見る →

h2o-danube3-500m-chat

h2oai / h2o-danube3-500m-chat

1B
Llamatext-generation合計 2 件のベンチマーク
transformersonnxsafetensorsllama
最高163 tok/s
中央値134 tok/s
最小105 tok/s
ベンチマークを見る →

granite-4.0-1b-base

ibm-granite / granite-4.0-1b-base

MoE2B
text-generation合計 2 件のベンチマーク
transformerssafetensorsgranitemoehybridtext-generation
ベンチマークを見る →

EXAONE-3.5-7.8B-Instruct-GGUF

LGAI-EXAONE / EXAONE-3.5-7.8B-Instruct-GGUF

8B
text-generation合計 2 件のベンチマーク
transformersgguflg-aiexaone
最高27.2 tok/s
中央値27.2 tok/s
最小27.2 tok/s
Eval score· 2 evals
78.3%
ベンチマークを見る →

Phi-4-mini-instruct

microsoft / Phi-4-mini-instruct

4B
Phitext-generation合計 2 件のベンチマーク
transformerssafetensorsphi3text-generation
ベンチマークを見る →

Qwen3-30B-A3B-Instruct-2507

Qwen / Qwen3-30B-A3B-Instruct-2507

MoE3B アクティブ / 31B 合計
Qwentext-generation合計 2 件のベンチマーク
transformerssafetensorsqwen3_moetext-generation
ベンチマークを見る →

DeepSeek-V4-Flash-DSpark

deepseek-ai / DeepSeek-V4-Flash-DSpark

MoE165B
Deepseektext-generation合計 2 件のベンチマーク
transformerssafetensorsdeepseek_v4text-generation
最高262 tok/s
中央値262 tok/s
最小262 tok/s
ベンチマークを見る →

Qwen2.5-VL-7B-Instruct

Qwen / Qwen2.5-VL-7B-Instruct

8B
Qwenimage-text-to-text合計 2 件のベンチマーク
transformerssafetensorsqwen2_5_vlimage-text-to-text
ベンチマークを見る →

Kimi-K2.5

moonshotai / Kimi-K2.5

1.1T
image-text-to-text合計 2 件のベンチマーク
transformerssafetensorskimi_k25feature-extraction
最高74.0 tok/s
中央値74.0 tok/s
最小74.0 tok/s
ベンチマークを見る →

Llama-3.2-3B-Instruct

meta-llama / Llama-3.2-3B-Instruct

3B
Llamatext-generation合計 2 件のベンチマーク
transformerssafetensorsllamatext-generation
最高79.9 tok/s
中央値65.4 tok/s
最小50.9 tok/s
ベンチマークを見る →

MiniMax-M2.1

MiniMaxAI / MiniMax-M2.1

MoE229B
Minimaxtext-generation合計 2 件のベンチマーク
transformerssafetensorsminimax_m2text-generation
最高499 tok/s
中央値416 tok/s
最小333 tok/s
ベンチマークを見る →

Qwen3.5-35B-A3B-4bit

mlx-community / Qwen3.5-35B-A3B-4bit

MoE3B アクティブ / 6B 合計
Qwenimage-text-to-text合計 2 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高140 tok/s
中央値122 tok/s
最小105 tok/s
ベンチマークを見る →

Qwen3-VL-30B-A3B-Instruct

Qwen / Qwen3-VL-30B-A3B-Instruct

MoE3B アクティブ / 31B 合計
Qwenimage-text-to-text合計 2 件のベンチマーク
transformerssafetensorsqwen3_vl_moeimage-text-to-text
最高56.6 tok/s
中央値52.2 tok/s
最小47.7 tok/s
ベンチマークを見る →

Ministral-3-3B-Base-2512

mistralai / Ministral-3-3B-Base-2512

4B
Mistral合計 2 件のベンチマーク
vllmsafetensorsmistral3mistral-common
ベンチマークを見る →

Llama-3.1-70B

meta-llama / Llama-3.1-70B

71B
Llamatext-generation合計 2 件のベンチマーク
transformerssafetensorsllamatext-generation
ベンチマークを見る →

Laguna-XS-2.1

poolside / Laguna-XS-2.1

MoE33B
text-generation合計 1 件のベンチマーク
transformerssafetensorslagunatext-generation
最高296 tok/s
中央値296 tok/s
最小296 tok/s
ベンチマークを見る →

Hy3

tencent / Hy3

MoE299B
text-generation合計 1 件のベンチマーク
transformerssafetensorshy_v3text-generation
ベンチマークを見る →

Falcon-H1-Tiny-Tool-Calling-90M

tiiuae / Falcon-H1-Tiny-Tool-Calling-90M

Falcontext-generation合計 1 件のベンチマーク
transformerssafetensorsfalcon_h1text-generation
最高434 tok/s
中央値434 tok/s
最小434 tok/s
ベンチマークを見る →

Falcon-H1-Tiny-Coder-90M

tiiuae / Falcon-H1-Tiny-Coder-90M

0M
Falcontext-generation合計 1 件のベンチマーク
transformerssafetensorsfalcon_h1text-generation
最高426 tok/s
中央値426 tok/s
最小426 tok/s
ベンチマークを見る →

TinyStories-33M

roneneldan / TinyStories-33M

Gpttext-generation合計 1 件のベンチマーク
transformerspytorchgpt_neotext-generation
最高641 tok/s
中央値641 tok/s
最小641 tok/s
ベンチマークを見る →

tinystories-lay4-hs128-hd2-1M

ivnle / tinystories-lay4-hs128-hd2-1M

0M
Llamatext-generation合計 1 件のベンチマーク
transformerssafetensorsllamatext-generation
最高3.6k tok/s
中央値3.6k tok/s
最小3.6k tok/s
ベンチマークを見る →

qwen-3-14b-instruct-gguf

lm-kit / qwen-3-14b-instruct-gguf

14B
Qwen合計 1 件のベンチマーク
gguflicense:apache-2.0endpoints_compatibleregion:us
最高38.2 tok/s
中央値38.2 tok/s
最小38.2 tok/s
ベンチマークを見る →

Gemmable-4-12B-MTP-GGUF

Mia-AiLab / Gemmable-4-12B-MTP-GGUF

12B
Gemma合計 1 件のベンチマーク
ggufgemma-4gemmablereasoning
最高71.2 tok/s
中央値71.2 tok/s
最小71.2 tok/s
ベンチマークを見る →

DeepSeek-Coder-V2-Lite-Instruct-GGUF

bartowski / DeepSeek-Coder-V2-Lite-Instruct-GGUF

Deepseek-Codertext-generation合計 1 件のベンチマーク
gguftext-generationlicense:otherendpoints_compatible
最高57.1 tok/s
中央値57.1 tok/s
最小57.1 tok/s
ベンチマークを見る →

gemma-4-31B-v2-MLX-4bit

jdfelo / gemma-4-31B-v2-MLX-4bit

31B
Gemmaimage-text-to-text合計 1 件のベンチマーク
mlx-vlmsafetensorsgemma4mlx
最高33.4 tok/s
中央値33.4 tok/s
最小33.4 tok/s
ベンチマークを見る →

LFM2.5-230M-Base

LiquidAI / LFM2.5-230M-Base

0M
text-generation合計 1 件のベンチマーク
transformerssafetensorslfm2text-generation
ベンチマークを見る →

MiniMax-M3

MiniMaxAI / MiniMax-M3

MoE427B
Minimaximage-text-to-text合計 1 件のベンチマーク
transformerssafetensorsminimax_m3_vlimage-text-to-text
ベンチマークを見る →

Unlimited-OCR

baidu / Unlimited-OCR

MoE3B
image-text-to-text合計 1 件のベンチマーク
transformerssafetensorsunlimited-ocrfeature-extraction
最高365 tok/s
中央値365 tok/s
最小365 tok/s
ベンチマークを見る →

gemma-4-26B-A4B-it-QAT-MLX-4bit

lmstudio-community / gemma-4-26B-A4B-it-QAT-MLX-4bit

MoE4B アクティブ / 5B 合計
Gemmaimage-text-to-text合計 1 件のベンチマーク
transformerssafetensorsgemma4image-text-to-text
最高65.3 tok/s
中央値65.3 tok/s
最小65.3 tok/s
ベンチマークを見る →

granite-4.1-8b

ibm-granite / granite-4.1-8b

9B
text-generation合計 1 件のベンチマーク
transformerssafetensorsgranitetext-generation
ベンチマークを見る →

Step-3.7-Flash-NVFP4

stepfun-ai / Step-3.7-Flash-NVFP4

MoE104B
Optimage-text-to-text合計 1 件のベンチマーク
transformerssafetensorsstep3p7text-generation
最高27.4 tok/s
中央値27.4 tok/s
最小27.4 tok/s
ベンチマークを見る →

Qwable-3.6-35b

Mia-AiLab / Qwable-3.6-35b

35B
Qwen合計 1 件のベンチマーク
transformersggufqwenqwen3
最高54.1 tok/s
中央値54.1 tok/s
最小54.1 tok/s
ベンチマークを見る →

GPT-OSS-20B-Uncensored-HauhauCS-Aggressive

HauhauCS / GPT-OSS-20B-Uncensored-HauhauCS-Aggressive

20B
Gpt合計 1 件のベンチマーク
ggufuncensoredabliteratedmxfp4
最高66.8 tok/s
中央値66.8 tok/s
最小66.8 tok/s
ベンチマークを見る →

UncensoredLM-DeepSeek-R1-Distill-Qwen-14B

uncensoredai / UncensoredLM-DeepSeek-R1-Distill-Qwen-14B

14B
Deepseek-R1合計 1 件のベンチマーク
safetensorsqwen2license:apache-2.0region:us
最高27.0 tok/s
中央値27.0 tok/s
最小27.0 tok/s
ベンチマークを見る →

Qwen3.5-9B-Red_Team

LuisPPB16 / Qwen3.5-9B-Red_Team

9B
Qwen合計 1 件のベンチマーク
ggufqwen3_5llama.cppunsloth
最高35.9 tok/s
中央値35.9 tok/s
最小35.9 tok/s
ベンチマークを見る →

LFM2.5-350M-Base

LiquidAI / LFM2.5-350M-Base

0M
text-generation合計 1 件のベンチマーク
transformerssafetensorslfm2text-generation
ベンチマークを見る →

Qwen3.5-0.8B-Q8_0.gguf

Manojb / Qwen3.5-0.8B-Q8_0.gguf

1B
Qwen合計 1 件のベンチマーク
ggufendpoints_compatibleregion:usconversational
最高346 tok/s
中央値346 tok/s
最小346 tok/s
ベンチマークを見る →

Qwen3.6-35B-A3B-4bit-DWQ

mlx-community / Qwen3.6-35B-A3B-4bit-DWQ

MoE3B アクティブ / 35B 合計
Qwentext-generation合計 1 件のベンチマーク
mlxsafetensorsqwen3_5_moetext-generation
最高78.9 tok/s
中央値78.9 tok/s
最小78.9 tok/s
ベンチマークを見る →

Qwen3.5-122B-A10B-GPTQ-Int4

Qwen / Qwen3.5-122B-A10B-GPTQ-Int4

MoE10B アクティブ / 125B 合計
Qwenimage-text-to-text合計 1 件のベンチマーク
transformerssafetensorsqwen3_5_moeimage-text-to-text
最高49.1 tok/s
中央値49.1 tok/s
最小49.1 tok/s
ベンチマークを見る →

Llama-2-7b

meta-llama / Llama-2-7b

7B
Llamatext-generation合計 1 件のベンチマーク
facebookmetapytorchllama
最高110 tok/s
中央値110 tok/s
最小110 tok/s
ベンチマークを見る →

Ternary-Bonsai-8B-unpacked

prism-ml / Ternary-Bonsai-8B-unpacked

8B
Qwen合計 1 件のベンチマーク
safetensorsqwen3prismmlbonsai
ベンチマークを見る →

GLM-5

zai-org / GLM-5

MoE754B
text-generation合計 1 件のベンチマーク
transformerssafetensorsglm_moe_dsatext-generation
ベンチマークを見る →

LFM2-24B-A2B

LiquidAI / LFM2-24B-A2B

MoE2B アクティブ / 24B 合計
text-generation合計 1 件のベンチマーク
transformerssafetensorsliquidlfm2
最高161 tok/s
中央値161 tok/s
最小161 tok/s
ベンチマークを見る →

DeepSeek-V4-Flash-2bit-DQ

mlx-community / DeepSeek-V4-Flash-2bit-DQ

284B
Deepseektext-generation合計 1 件のベンチマーク
mlxsafetensorstext-generationen
最高17.0 tok/s
中央値17.0 tok/s
最小17.0 tok/s
ベンチマークを見る →

Qwen3-VL-2B-Instruct

Qwen / Qwen3-VL-2B-Instruct

2B
Qwenimage-text-to-text合計 1 件のベンチマーク
transformerssafetensorsqwen3_vlimage-text-to-text
最高27.9 tok/s
中央値27.9 tok/s
最小27.9 tok/s
ベンチマークを見る →

Gemopus-4-26B-A4B-it-GGUF

Jackrong / Gemopus-4-26B-A4B-it-GGUF

MoE4B アクティブ / 26B 合計
Llamaimage-text-to-text合計 1 件のベンチマーク
transformersggufgemma4image-text-to-text
最高94.5 tok/s
中央値94.5 tok/s
最小94.5 tok/s
ベンチマークを見る →

Qwen2-VL-7B

Qwen / Qwen2-VL-7B

8B
Qwenimage-text-to-text
transformerssafetensorsqwen2_vlimage-text-to-text
ベンチマークを見る →

Qwen3.5-9B-NSC-ACE-SABER-GGUF

GestaltLabs / Qwen3.5-9B-NSC-ACE-SABER-GGUF

9B
Qwen
ggufqwen3_5nsc-acesaber
ベンチマークを見る →

LFM2-24B-A2B-GGUF

lmstudio-community / LFM2-24B-A2B-GGUF

MoE2B アクティブ / 24B 合計
ggufendpoints_compatibleregion:usconversational
ベンチマークを見る →