Autor | SHA1 Zpráva | Datum |
---|---|---|
|
8fa608aeb7 feat: replace Ray with NCCL for control plane comms (#221) | před 1 rokem |
|
801eda0b7a feat: support GPTQ 2, 3, and 8bit quants (#181) | před 1 rokem |
|
62b2c4119d feat: re-write GPTQ and refactor exllama kernels (#152) | před 1 rokem |
|
887e03669a feat: add exllamav2 for GPTQ (#99) | před 1 rokem |