Commit History

Автор SHA1 Съобщение Дата
  AlpinDale d638dc592d fix: some minor typing issues in spec decode преди 5 месеца
  AlpinDale 16dff9babc chore: enable bonus token in spec decoding for KV cache based models преди 5 месеца
  AlpinDale abbb730607 feat: support draft model on different tensor parallel size преди 5 месеца
  AlpinDale ec5b99d075 fix: use named args преди 6 месеца
  AlpinDale e0886ee929 feat: add `ProposerWorkerBase` abstract class преди 6 месеца