Llama-2-7b-hf (7B) — 201.6 tok/s top speed | Localmaxxing

เริ่มต้นใช้งาน ลีดเดอร์บอร์ด Decode calculator โมเดล ฮาร์ดแวร์เบนช์มาร์ก ตลาดซื้อขาย เช่า Pro เอกสาร API

ภาษา

Total runs

Highest

Best memory ceiling

Median

Lowest

Total runs

Highest

Best memory ceiling

Median

Lowest

Speed Test Results

Submit benchmark

#	ฮาร์ดแวร์	Engine	ความลึก	tok/s out	Prefill	tok/s total	TTFT ms	VRAM GB

Llama-2-7b-hf (7B) — 201.6 tok/s top speed | Localmaxxing