Commit Verlauf

Autor SHA1 Nachricht Datum
  AlpinDale 00503b9fc1 feat: non-uniform quantization via `compressed-tensors` for llama vor 5 Monaten
  AlpinDale ee2c5d34da feat: add fp8 channel-wise weight quantization support vor 5 Monaten
  AlpinDale 98cb1c4cd1 feat: support fp8 via `llm-compressor` vor 5 Monaten
  AlpinDale e2dbe5f05c feat: add sparse marlin for compressed tensors vor 5 Monaten
  AlpinDale aba03b4756 feat: dynamic per-token activation quantization vor 5 Monaten