 Ivan Komarov
|
f692b98d80
Fix spurious re-compilations of `rotary_kernel` (#911)
|
před 9 měsíci |
 Tri Dao
|
b28ec236df
[Rotary] Implement varlen rotary
|
před 1 rokem |
|
Tri Dao
|
1c523c1ce1
[Rotary] Speed up rotary kernel when interleaved=True
|
před 1 rokem |
|
Tri Dao
|
942fcbf046
[Rotary] Implement rotary in Triton
|
před 1 rokem |
|
Tri Dao
|
0e8c46ae08
Run isort and black on test files
|
před 1 rokem |
|
Tri Dao
|
d4b320b31f
Add MLP, MHA, Block, Embedding modules
|
před 2 roky |
|
Tri Dao
|
ca81f32e04
Implement rotary embedding in CUDA
|
před 2 roky |
