 AlpinDale
|
aed64884c6
feat: prompt logprobs with chunked prefill (#539)
|
před 6 měsíci |
|
AlpinDale
|
fca911ee0a
vLLM Upstream Sync (#526)
|
před 7 měsíci |
|
AlpinDale
|
9d81716bfd
[v0.5.3] Release Candidate (#388)
|
před 8 měsíci |
|
AlpinDale
|
78d66f16d1
Chunked Prefill Part 1 (#384)
|
před 10 měsíci |
|
AlpinDale
|
f8dfac6372
chore: attention refactor and upstream sync apr01 (#365)
|
před 10 měsíci |
|
AlpinDale
|
e42a78381a
feat: switch from pylint to ruff (#322)
|
před 10 měsíci |
|
AlpinDale
|
c2d77b1822
chore: logging refactor (#302)
|
před 10 měsíci |
|
AlpinDale
|
ac82b67f75
feat: naive context shift and various QoL changes (#289)
|
před 11 měsíci |
|
AlpinDale
|
4d04ade9ef
feat: fine-grained seeds (#279)
|
před 11 měsíci |
|
AlpinDale
|
c0aac15421
feat: S-LoRA support (#222)
|
před 1 rokem |
|
AlpinDale
|
8fa608aeb7
feat: replace Ray with NCCL for control plane comms (#221)
|
před 1 rokem |
|
AlpinDale
|
b9b295d74e
chore: backlogs 1 (#191)
|
před 1 rokem |
 g4rg
|
2aab3da9bd
chore: fix Python 3.8+ compatibility (#170)
|
před 1 rokem |
|
AlpinDale
|
9ec4e08ade
fix: cpu sync delay fix (#127)
|
před 1 rokem |
|
AlpinDale
|
13901af940
fix: scheduler hang with long prompts (#126)
|
před 1 rokem |
 50h100a
|
fa0ae5a2c9
feat: new mirostatv2 implementation (#96)
|
před 1 rokem |
|
AlpinDale
|
efc6f7fbec
chore: reformats (#90)
|
před 1 rokem |
|
AlpinDale
|
3d72f05c7b
feat: flattened 1D tensor -> 2D tensor (#85)
|
před 1 rokem |
|
AlpinDale
|
04a27c6aeb
fix: revert mirostat v2 (#79)
|
před 1 rokem |
 Stefan Gligorijevic
|
5dbd262033
feat: Mirostat v2 (#69)
|
před 1 rokem |
|
AlpinDale
|
cbeeabeb9a
feat: mistral support (#20)
|
před 1 rokem |
 AlpinDale
|
75c27d3e65
massive overhaul
|
před 1 rokem |
|
AlpinDale
|
45f6d9f923
initial refactor commit
|
před 1 rokem |
|
AlpinDale
|
826de3ef93
use flash attention with xformers
|
před 1 rokem |
|
AlpinDale
|
c687430ce7
bump xformers and clean up leftover code
|
před 1 rokem |
|
AlpinDale
|
acbf49ef89
feat: refactor scheduler
|
před 1 rokem |
|
AlpinDale
|
bc725a82e8
fix: leftover name changes from an old migration
|
před 1 rokem |
|
AlpinDale
|
76b2e4a445
Merge dev branch into main (#7)
|
před 1 rokem |
|
AlpinDale
|
aad9a61afa
chore: formatting and various scheduler fixes
|
před 1 rokem |
|
AlpinDale
|
7a27bd5f2f
fix: do not allow prompt to exceed max input len
|
před 1 rokem |
