ภาพรวม

สถิติทั่วทั้งเว็บไซต์จากทุก benchmark run ที่ผ่านการอนุมัติ

392 30 วันล่าสุด

1,478Runs

57 30 วันล่าสุด

142ผู้ร่วมสนับสนุน

293โมเดลที่ถูก benchmark

70การตั้งค่าฮาร์ดแวร์

51tok/sThroughput มัธยฐาน

2,665tok/sThroughput สูงสุด

กิจกรรม

กิจกรรม Benchmark

Run ที่อนุมัติต่อเดือน

1,47812 เดือนล่าสุด

ก.ค.ส.ค.ก.ย.ต.ค.พ.ย.ธ.ค.ม.ค.ก.พ.มี.ค.เม.ย.พ.ค.มิ.ย.

ประสิทธิภาพ

Hardware ที่เร็วที่สุด

H200 SXM · 496 tok/s

H200 SXM496 tok/s

H200 NVL333 tok/s

RTX A5000261 tok/s

RTX 3060 Ti225 tok/s

RTX 5070 Ti221 tok/s

RTX A6000131 tok/s

RTX 3090 Ti119 tok/s

Strix Halo Radeon 8060S105 tok/s

RTX 5090102 tok/s

RTX 5060 Ti101 tok/s

Throughput ตาม Engine

hipfire · 155 tok/s

hipfire155 tok/s

SGLang88 tok/s

lmstudio85 tok/s

mlx83 tok/s

ollama69 tok/s

vllm66 tok/s

llama.cpp46 tok/s

ความนิยม

ฮาร์ดแวร์ที่ถูก benchmark มากที่สุด

Intel Arc Pro B70 · 236

Intel Arc Pro B70236

Ryzen AI Max 395205

Radeon AI Pro R9700163

RTX 3090141

RTX 306072

GB10 Grace Blackwell71

RX 7900 XTX58

RTX 509053

RTX PRO 6000 Blackwell40

RTX 308037

M5 Max29

GTX 1080 Ti27

โมเดลที่ถูก benchmark มากที่สุด

Qwen3.6-35B-A3B · 92

Qwen3.6-35B-A3B92

Qwen3.6-27B83

MiniMax-M2.7-int4-AutoRound60

gemma-4-26B-A4B-it-GGUF52

Qwen3.6-27B45

MiniMax-M2.740

Ornstein3.6-27B-MTP-NSC-ACE-SABER-GGUF33

Qwen3.6-27B-MTP-GGUF32

Qwen3.6-27B-GGUF31

Qwen3.5-9B27

gemma-4-31B-it22

Qwen3.6-27B-int4-AutoRound20

การกระจาย

Quantization ที่นิยมที่สุด

Q4_K_M · 410

Q4_K_M410

Q8_0115

Q4_072

NVFP467

INT4 AutoRound W4A1665

Q4_K_XL52

fp843

UD-Q4_K_XL40

Q5_K_M39

MQ436

ขนาดโมเดลที่นิยมที่สุด

15–35B · 692

<1B4

1–4B56

4–8B89

8–15B200

15–35B692

35–70B243

70–140B90

140B+75

Unknown29

Inference engine ที่นิยมที่สุด

llama.cpp · 985

llama.cpp985

vllm296

ollama89

hipfire41

mlx39

SGLang15

lmstudio13

Context length

≤2K · 586

≤2K586

4K145

8K153

16K40

32K143

64K59

128K+352

คลาสฮาร์ดแวร์

Discrete GPU · 1,042

Discrete GPU1,042

Unified memory421

CPU only15

สัดส่วนสถาปัตยกรรม

Dense · 1,178

Dense1,178

Mixture-of-Experts300

ผู้ร่วมสนับสนุนยอดนิยม

steveseguin · 211

steveseguin211

1337Hero143

gdwallasign94

crown90

AngkorAI67

Skiipy45

schuttdev39

basecampbernie34

gkraker0432

snnn29