AlpinDale ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) 3 tháng trước cách đây
..
aqlm ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) 3 tháng trước cách đây
autoquant f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
awq f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
compressed_tensors f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
cutlass_w8a8 a401f8e05d feat: per-tensor token epilogue kernels (#630) 4 tháng trước cách đây
exl2 f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
fp8 b0f262eec1 feat: FP8 quantization support for AMD ROCm (#729) 3 tháng trước cách đây
gguf ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) 3 tháng trước cách đây
gptq f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
gptq_marlin 6144150398 chore: use scalar type to dispatch to different `gptq_marlin` kernels (#689) 4 tháng trước cách đây
int8_kvcache 9810daa699 feat: INT8 KV Cache (#298) 10 tháng trước cách đây
marlin f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
quip f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
squeezellm f1d0b77c92 [0.6.0] Release Candidate (#481) 4 tháng trước cách đây
quant_ops.h ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) 3 tháng trước cách đây