Llama-2-7b (7B) — 110.1 tok/s top speed | Localmaxxing

시작하기 리더보드 모델 하드웨어 평가 마켓플레이스 렌탈 Pro API 문서

언어

Total runs

Highest

Median

Lowest

Total runs

Highest

Median

Lowest

Benchmark Results

Submit benchmark

#	모델	엔진	깊이	출력 tok/s	프리필	총 tok/s	TTFT ms	VRAM GB

Llama-2-7b (7B) — 110.1 tok/s top speed | Localmaxxing