 swadical
|
0527131e93
fix: grammar logits processor (#268)
|
1 년 전 |
 AlpinDale
|
2370dbcfd8
feat: OPT model support (#266)
|
1 년 전 |
 AlpinDale
|
4360684667
fix: cuda version in wheel
|
1 년 전 |
 TearGosling
|
80e8a14949
feat: add pygchat Jinja template (#218)
|
1 년 전 |
 sgsdxzy
|
fe7844f2ef
feat: sharding and safetensors support for gguf conversion (#256)
|
1 년 전 |
|
AlpinDale
|
8635901c76
fix: s-lora vocab embeddings
|
1 년 전 |
|
AlpinDale
|
c76b611021
docker: update the Dockerfile and push the latest image (#254)
|
1 년 전 |
 anon998
|
35b9033782
fix: crash in quadratic sampling when batch > 1 (#253)
|
1 년 전 |
|
AlpinDale
|
842912d022
feat: on-the-fly gguf conversion (#250)
|
1 년 전 |
|
AlpinDale
|
faca8745d6
fix: linting issue (#249)
|
1 년 전 |
|
AlpinDale
|
3163839c88
bump version to 0.4.9
|
1 년 전 |
|
AlpinDale
|
f99eb2c874
fix: hadamard tensors not included in wheel
|
1 년 전 |
|
AlpinDale
|
8b6790d504
fix: gguf config not recognized
|
1 년 전 |
|
AlpinDale
|
a1836a40e2
bump version to v0.4.8
|
1 년 전 |
|
AlpinDale
|
2bd6c92f73
fix: lora inclusion in wheels
|
1 년 전 |
|
AlpinDale
|
8da2be03ce
feat: bump version to v0.4.7 (#248)
|
1 년 전 |
|
AlpinDale
|
ea0f57b233
feat: allow further support for non-cuda devices (#247)
|
1 년 전 |
|
AlpinDale
|
4faf78ba29
fix: grab correct quant config from revisions (#246)
|
1 년 전 |
|
AlpinDale
|
7760913873
fix: garbage output from GPTQ (#245)
|
1 년 전 |
 50h100a
|
f619c96c79
fix: zero token output due to temperature bias (#243)
|
1 년 전 |
|
50h100a
|
53a9c60442
fix: logit processor declarations and application (#242)
|
1 년 전 |
|
AlpinDale
|
9ed45fec7c
fix: incorrect prometheus url
|
1 년 전 |
|
AlpinDale
|
d2db4143fa
feat: add grafana for metrics (#240)
|
1 년 전 |
|
AlpinDale
|
1a94ccf3cf
fix: prefix cache fail with lora (#239)
|
1 년 전 |
|
AlpinDale
|
85c92acfb3
fix: do not initialize all-reduce at world_size=1
|
1 년 전 |
|
AlpinDale
|
d9b65e6c5f
feat: DeepSeek MoE support (#237)
|
1 년 전 |
|
AlpinDale
|
e73a92ad2f
fix: remove the mask for quadratic sampling (#236)
|
1 년 전 |
|
AlpinDale
|
aebd68c632
feat: backport kernels (#235)
|
1 년 전 |
|
AlpinDale
|
bb158b6282
fix: bump torch to 2.2.0 (#234)
|
1 년 전 |
|
AlpinDale
|
1c46fa31ad
feat: add quadratic sampling (#233)
|
1 년 전 |
