AlpinDale 8976805f90 kernel: asymmetric AQ AZP quantization kernels (#1048) před 1 týdnem
..
aqlm ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) před 3 měsíci
autoquant f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
awq 0256ed236b feat: windows support (#790) před 2 měsíci
compressed_tensors 8976805f90 kernel: asymmetric AQ AZP quantization kernels (#1048) před 1 týdnem
cutlass_w8a8 a401f8e05d feat: per-tensor token epilogue kernels (#630) před 4 měsíci
exl2 f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
fp6 73177656ed feat: quant_llm support (#755) před 3 měsíci
fp8 e14223dce5 kernel: use `cub::BlockReduce` instead of custom impl (#895) před 3 týdny
gguf ccbda97416 fix: types in AQLM and GGUF for dynamo support (#736) před 3 měsíci
gptq f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
gptq_marlin a113309876 kernel: add meta functions for ops to prevent graph breaks (#1019) před 1 týdnem
int8_kvcache 9810daa699 feat: INT8 KV Cache (#298) před 10 měsíci
machete 2a60b8f8c9 kernel: do not compile machete for cuda 11 and below (#901) před 3 týdny
marlin 0256ed236b feat: windows support (#790) před 2 měsíci
quip f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
squeezellm f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
quant_ops.h 8976805f90 kernel: asymmetric AQ AZP quantization kernels (#1048) před 1 týdnem