Autor | SHA1 Mensaje | Fecha |
---|---|---|
|
00503b9fc1 feat: non-uniform quantization via `compressed-tensors` for llama | hace 5 meses |
|
6671e3a162 feat: add CPU offloading support (#598) | hace 6 meses |
|
497bf64942 chore: simplify pipeline parallel code in llama | hace 6 meses |
|
4599c98f99 feat: dynamic image size support for VLMs | hace 6 meses |