AlpinDale ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
..
compressed_tensors ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
gguf_utils 9d81716bfd [v0.5.3] Release Candidate (#388) 8 місяців тому
utils ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
__init__.py ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
aqlm.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
autoquant.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
awq.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
awq_marlin.py ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
base_config.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
bitsandbytes.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
deepspeedfp.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
eetq.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
exl2.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
fbgemm_fp8.py 408ca43d2e feat: support fbgemm_fp8 quant on ampere 4 місяців тому
fp8.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
gguf.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
gptq.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
gptq_marlin.py ba371fbbbd feat: AWQ marlin kernels (#603) 4 місяців тому
gptq_marlin_24.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
hadamard.safetensors 9d81716bfd [v0.5.3] Release Candidate (#388) 8 місяців тому
marlin.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
quip.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому
quip_utils.py 9d81716bfd [v0.5.3] Release Candidate (#388) 8 місяців тому
schema.py 9d81716bfd [v0.5.3] Release Candidate (#388) 8 місяців тому
squeezellm.py 9be43994fe feat: fbgemm quantization support (#601) 4 місяців тому