AlpinDale f22b700ee4 feat: marlin kernels for GPTQ (#547) 8 місяців тому
..
attention.py e1f3fd1e02 fix: test units (#201) 1 рік тому
backend_request_func.py e42a78381a feat: switch from pylint to ruff (#322) 1 рік тому
latency.py e1f3fd1e02 fix: test units (#201) 1 рік тому
launch_tgi.sh 4d04ade9ef feat: fine-grained seeds (#279) 1 рік тому
moe_config.py f8dfac6372 chore: attention refactor and upstream sync apr01 (#365) 1 рік тому
serving.py e42a78381a feat: switch from pylint to ruff (#322) 1 рік тому
throughput.py f22b700ee4 feat: marlin kernels for GPTQ (#547) 8 місяців тому