NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (32B) — 186.6 tok/s top speed | Localmaxxing

시작하기 리더보드 Decode calculator 모델 하드웨어 벤치마크 마켓플레이스 렌탈 Pro API 문서

언어

Total runs

Highest

Best memory ceiling

Median

Lowest

Total runs

Highest

Best memory ceiling

Median

Lowest

Speed Test Results

Submit benchmark

#	모델	엔진	깊이	출력 tok/s	프리필	총 tok/s	TTFT ms	VRAM GB

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (32B) — 186.6 tok/s top speed | Localmaxxing