Autor | SHA1 Wiadomość | Data |
---|---|---|
|
abfd4465ca feat: add support for chunked prefill + prefix caching (#871) | 2 miesięcy temu |
|
3d83e64f8e feat: add metrics for prefix cache hit rate (#829) | 2 miesięcy temu |
|
bf88c8567e feat: mamba model support (#674) | 5 miesięcy temu |