Etusivu Tutki Apua
Rekisteröidy Kirjaudu sisään
david
/
flash-attention
peilaus alkaen https://github.com/Dao-AILab/flash-attention
1
0
Fork 0
Tiedostot Ongelmat 0 Wiki
Haara: changes_for_fp8
Haarat Tagit
flash-attention
/
flash_attn
/
modules
Markus Krimmel 6bbc532388 fix: cast the alibi slopes to torch.float32 (#846) 9 kuukautta sitten
..
__init__.py ece539abd6 Add __init__.py files to subdirectories for installation 2 vuotta sitten
block.py abbc131173 [LayerNorm] Switch from CUDA to Triton implementation 1 vuosi sitten
embedding.py f1a73d0740 Run isort and black on python files 1 vuosi sitten
mha.py 6bbc532388 fix: cast the alibi slopes to torch.float32 (#846) 9 kuukautta sitten
mlp.py c3b2196652 Add Alibi to MHA, test with Baichuan-13B 1 vuosi sitten