Llama-2-7b (7B) — 110.1 tok/s top speed | Localmaxxing

เริ่มต้นใช้งาน ลีดเดอร์บอร์ด โมเดล ฮาร์ดแวร์เบนช์มาร์ก ตลาดซื้อขาย เช่า Pro เอกสาร API

ภาษา

Total runs

Highest

Median

Lowest

Total runs

Highest

Median

Lowest

Speed Test Results

Submit benchmark

#	ฮาร์ดแวร์	Engine	ความลึก	tok/s out	Prefill	tok/s total	TTFT ms	VRAM GB

Llama-2-7b (7B) — 110.1 tok/s top speed | Localmaxxing