 AlpinDale
|
b15e6376f8
bump to torch 2.4.0, add aphrodite_flash_attn (#614)
|
před 4 měsíci |
 AlpinDale
|
44d81c3a3e
chore: bump torch to 2.4.0
|
před 4 měsíci |
|
AlpinDale
|
ea54ffafa4
let's try this again
|
před 4 měsíci |
|
AlpinDale
|
b71a865b3a
Revert "update dockerfile"
|
před 4 měsíci |
|
AlpinDale
|
6dd64089a2
update dockerfile
|
před 4 měsíci |
|
AlpinDale
|
b1e61268a8
bump torch to 2.3.1
|
před 4 měsíci |
|
AlpinDale
|
5be90c3859
Mamba infrastrucuture support (#586)
|
před 4 měsíci |
|
AlpinDale
|
e6d70101b3
feat: add support for phi-3 vision model
|
před 5 měsíci |
|
AlpinDale
|
75f97bc25d
bump flash-attn to remove unnecessary copies in the backend
|
před 5 měsíci |
|
AlpinDale
|
93cffaf446
add flash_attn back
|
před 5 měsíci |
|
AlpinDale
|
c6a501f682
add multiprocessing executor; make ray optional
|
před 5 měsíci |
|
AlpinDale
|
d11d68f4e6
switch to vllm-flash-attn
|
před 5 měsíci |
|
AlpinDale
|
440384d776
chore: use nvidia-ml-py instead of pynvml
|
před 6 měsíci |
|
AlpinDale
|
9d81716bfd
[v0.5.3] Release Candidate (#388)
|
před 8 měsíci |
