AlpinDale 1225c4dfd6 fix: illegal mem access crash for marlin 7 месяцев назад
..
aqlm fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад
awq 9d81716bfd [v0.5.3] Release Candidate (#388) 8 месяцев назад
bitsandbytes fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад
exl2 9d81716bfd [v0.5.3] Release Candidate (#388) 8 месяцев назад
fp8 fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад
fp8_e5m2_kvcache 8e1cd54497 fix: do not include fp8 for rocm (#271) 11 месяцев назад
gguf 9d81716bfd [v0.5.3] Release Candidate (#388) 8 месяцев назад
gptq fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад
int8_kvcache 9810daa699 feat: INT8 KV Cache (#298) 11 месяцев назад
marlin 1225c4dfd6 fix: illegal mem access crash for marlin 7 месяцев назад
quip aebd68c632 feat: backport kernels (#235) 1 год назад
squeezellm 8fa608aeb7 feat: replace Ray with NCCL for control plane comms (#221) 1 год назад
quant_ops.cpp fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад
quant_ops.h fca911ee0a vLLM Upstream Sync (#526) 7 месяцев назад