개요모델리더보드하드웨어마켓플레이스평가학습렌탈ProAPI 문서
언어
Lucebox Hub campaign banner

개요

승인된 모든 벤치마크 실행에 대한 사이트 전체 통계입니다.

392 최근 30일
1,478실행
57 최근 30일
142기여자
293벤치마크된 모델
70하드웨어 구성
51tok/s중앙값 처리량
2,665tok/s최대 처리량

활동

벤치마크 활동

월별 승인된 실행 수
1,478최근 12개월
7월8월9월10월11월12월1월2월3월4월5월6월

성능

가장 빠른 하드웨어

H200 SXM · 496 tok/s
H200 SXM496 tok/s
H200 NVL333 tok/s
RTX A5000261 tok/s
RTX 3060 Ti225 tok/s
RTX 5070 Ti221 tok/s
RTX A6000131 tok/s
RTX 3090 Ti119 tok/s
Strix Halo Radeon 8060S105 tok/s
RTX 5090102 tok/s
RTX 5060 Ti101 tok/s

엔진별 처리량

hipfire · 155 tok/s
hipfire155 tok/s
SGLang88 tok/s
lmstudio85 tok/s
mlx83 tok/s
ollama69 tok/s
vllm66 tok/s
llama.cpp46 tok/s

인기도

가장 많이 벤치마크된 하드웨어

Intel Arc Pro B70 · 236
Intel Arc Pro B70236
Ryzen AI Max 395205
Radeon AI Pro R9700163
RTX 3090141
RTX 306072
GB10 Grace Blackwell71
RX 7900 XTX58
RTX 509053
RTX PRO 6000 Blackwell40
RTX 308037
M5 Max29
GTX 1080 Ti27

가장 많이 벤치마크된 모델

Qwen3.6-35B-A3B · 92
Qwen3.6-35B-A3B92
Qwen3.6-27B83
MiniMax-M2.7-int4-AutoRound60
gemma-4-26B-A4B-it-GGUF52
Qwen3.6-27B45
MiniMax-M2.740
Ornstein3.6-27B-MTP-NSC-ACE-SABER-GGUF33
Qwen3.6-27B-MTP-GGUF32
Qwen3.6-27B-GGUF31
Qwen3.5-9B27
gemma-4-31B-it22
Qwen3.6-27B-int4-AutoRound20

분포

가장 인기 있는 양자화

Q4_K_M · 410
Q4_K_M410
Q8_0115
Q4_072
NVFP467
INT4 AutoRound W4A1665
Q4_K_XL52
fp843
UD-Q4_K_XL40
Q5_K_M39
MQ436

가장 인기 있는 모델 크기

15–35B · 692
<1B4
1–4B56
4–8B89
8–15B200
15–35B692
35–70B243
70–140B90
140B+75
Unknown29

가장 인기 있는 추론 엔진

llama.cpp · 985
llama.cpp985
vllm296
ollama89
hipfire41
mlx39
SGLang15
lmstudio13

컨텍스트 길이

≤2K · 586
≤2K586
4K145
8K153
16K40
32K143
64K59
128K+352

하드웨어 등급

Discrete GPU · 1,042
Discrete GPU1,042
Unified memory421
CPU only15

아키텍처 구성

Dense · 1,178
Dense1,178
Mixture-of-Experts300

주요 기여자

steveseguin · 211
steveseguin211
1337Hero143
gdwallasign94
crown90
AngkorAI67
Skiipy45
schuttdev39
basecampbernie34
gkraker0432
snnn29