Kai Londenberg
|
b443207c1f
Paged Attention support for FA3 (#1268)
|
1 månad sedan |
Son Nguyen
|
478ee666cc
Make namespace comment consistent (#1305)
|
2 månader sedan |
jayhshah
|
a5a75274bc
FA3 kvcache + split kv + gqa parallelization (#1236)
|
2 månader sedan |
Ying Zhang
|
dfe1a59e4b
Add var-seq-len to FA3 fp16 / bf16 fwd (#1072)
|
5 månader sedan |