Kezdőlap Felfedezés Súgó
Regisztráció Bejelentkezés
david
/
flash-attention
tükrözi: https://github.com/Dao-AILab/flash-attention
1
0
Másolás 0
Fájlok Problémák 0 Wiki
Fa: 0dfb281743
Branch-ok Tag-ek
flash-attention
/
training
/
configs
/
experiment
/
owt
Tri Dao 88173a1aaf [FusedDense] Support relu, rename FusedDenseGeluDense -> FusedMLP 1 éve
..
base.yaml 71befc19e1 [Loss] Use flash_attn.losses.cross_entropy.CrossEntropyLoss 1 éve
gpt2l-flash.yaml 4a6eaa9f27 Update configs, add results 2 éve
gpt2l-hf.yaml 0bf5e50038 Release training code 2 éve
gpt2l.yaml 0bf5e50038 Release training code 2 éve
gpt2m-flash.yaml 4a6eaa9f27 Update configs, add results 2 éve
gpt2m-hf.yaml 0bf5e50038 Release training code 2 éve
gpt2m.yaml 0bf5e50038 Release training code 2 éve
gpt2s-flash.yaml 88173a1aaf [FusedDense] Support relu, rename FusedDenseGeluDense -> FusedMLP 1 éve
gpt2s-hf.yaml 0bf5e50038 Release training code 2 éve
gpt2s.yaml 0bf5e50038 Release training code 2 éve
gpt2xl-flash.yaml 4a6eaa9f27 Update configs, add results 2 éve
gpt2xl-hf.yaml 4a6eaa9f27 Update configs, add results 2 éve
gpt2xl.yaml 0bf5e50038 Release training code 2 éve