Bắt đầu Bảng xếp hạng Mô hình Phần cứng Đánh giá chuẩn Chợ Cho thuê Pro Tài liệu API

Ngôn ngữ

Tesla P100 (2x)

All approved runs for this hardware, sortable to find fastest model results.

Speed Test Results

#	Mô hình	Phần cứng	Engine	Độ sâu	tok/s out	Prefill	tok/s total	TTFT ms	VRAM GB