Commit Verlauf

Autor SHA1 Nachricht Datum
  AlpinDale 0256ed236b feat: windows support (#790) vor 2 Monaten
  AlpinDale f1d0b77c92 [0.6.0] Release Candidate (#481) vor 4 Monaten
  AlpinDale 9d81716bfd [v0.5.3] Release Candidate (#388) vor 8 Monaten
  AlpinDale f8dfac6372 chore: attention refactor and upstream sync apr01 (#365) vor 9 Monaten
  AlpinDale 9810daa699 feat: INT8 KV Cache (#298) vor 10 Monaten
  AlpinDale 8e1cd54497 fix: do not include fp8 for rocm (#271) vor 10 Monaten
  AlpinDale 31c95011a6 feat: FP8 E5M2 KV Cache (#226) vor 11 Monaten
  AlpinDale 8fa608aeb7 feat: replace Ray with NCCL for control plane comms (#221) vor 11 Monaten
  AlpinDale 53d391e1f2 merge 'dev' into 'main' vor 1 Jahr
  AlpinDale 15a0454172 feat: FP8 KV Cache (#185) vor 1 Jahr
  AlpinDale b9b295d74e chore: backlogs 1 (#191) vor 1 Jahr
  AlpinDale f013d714c0 chore: merge dev branch into main (#177) vor 1 Jahr
  AlpinDale 7d91e9e0f2 feat: CUDA graphs (#172) vor 1 Jahr
  AlpinDale 02f3ab3501 fix: replace head_mapping with num_kv_heads (#161) vor 1 Jahr
  AlpinDale 2755a48d51 merge dev branch into main (#153) vor 1 Jahr
  AlpinDale 1334a833a4 feat: AMD ROCm support (#95) vor 1 Jahr
  AlpinDale 4e71bd1d12 feat: add PagedAttention V2 kernels (#76) vor 1 Jahr
  AlpinDale b7918ad45f fix: attention kernel attribute (#52) vor 1 Jahr
  AlpinDale 0495c50a3e GPTQ+exllama support (#21) vor 1 Jahr
  AlpinDale 75c27d3e65 massive overhaul vor 1 Jahr
  AlpinDale 45f6d9f923 initial refactor commit vor 1 Jahr
  AlpinDale 23389d0108 zero out a variable instead of vector in kernels vor 1 Jahr
  AlpinDale ed540c3c87 fix: typo in attention kernel vor 1 Jahr
  AlpinDale fffb9f2dac chore: attention kernel optimizations vor 1 Jahr
  AlpinDale 24c78e7306 optimization: multi-query attention kernel vor 1 Jahr
  AlpinDale 081545bde6 fix: various CUDA kernel tweaks vor 1 Jahr
  AlpinDale 05d0a7e763 feat: adapt the attention kernels vor 1 Jahr