Mellum2-12B-A2.5B-Instruct-GGUF-Q4_K_M (12B) — 261.4 tok/s top speed | Localmaxxing

Bắt đầu Bảng xếp hạng Mô hình Phần cứng Đánh giá chuẩn Chợ Cho thuê Pro Tài liệu API

Ngôn ngữ

Total runs

Highest

Median

Lowest

Total runs

Highest

Median

Lowest

Speed Test Results

Submit benchmark

#	Phần cứng	Engine	Độ sâu	tok/s out	Prefill	tok/s total	TTFT ms	VRAM GB