AlpinDale
|
237fa59aea
feat: support CPU/GPU swapping in BlockManagerV2
|
7 tháng trước cách đây |
AlpinDale
|
be8154a8a0
feat: proper embeddings API with e5-mistral-7b support
|
7 tháng trước cách đây |
AlpinDale
|
8b56dc4347
dict -> torch.Tensor for blocks_to_swap
|
7 tháng trước cách đây |
AlpinDale
|
148aca8ff1
cow => dict[int, list] -> list
|
7 tháng trước cách đây |
AlpinDale
|
25c2b6feca
ignore infeasible swap requests
|
7 tháng trước cách đây |
AlpinDale
|
9d81716bfd
[v0.5.3] Release Candidate (#388)
|
10 tháng trước cách đây |