AlpinDale 8d26cf3876 simplify model_executor logic 9 месяцев назад
..
__init__.py bd0ddf1cfe feat: EETQ quantization (#408) 9 месяцев назад
aqlm.py 41beab5dc1 add exllamav2 tensor paralell, fused MoE for GPTQ/AWQ 10 месяцев назад
awq.py 41beab5dc1 add exllamav2 tensor paralell, fused MoE for GPTQ/AWQ 10 месяцев назад
base_config.py aa244761ed formatting and typing 10 месяцев назад
bitsandbytes.py fa083286e3 Speculative Decoding Part 4: Lookahead scheduling (#402) 9 месяцев назад
eetq.py 8d26cf3876 simplify model_executor logic 9 месяцев назад
exl2.py ea26c91e52 proper typing 10 месяцев назад
gguf.py ea26c91e52 proper typing 10 месяцев назад
gptq.py 41beab5dc1 add exllamav2 tensor paralell, fused MoE for GPTQ/AWQ 10 месяцев назад
hadamard.safetensors c3a221eb02 feat: GGUF, QuIP#, and Marlin support (#228) 1 год назад
marlin.py ea26c91e52 proper typing 10 месяцев назад
quip.py ea26c91e52 proper typing 10 месяцев назад
quip_utils.py e42a78381a feat: switch from pylint to ruff (#322) 10 месяцев назад
schema.py 7528e0ce3e make detokenization optional 9 месяцев назад
squeezellm.py ea26c91e52 proper typing 10 месяцев назад