david/flash-attention

огледало од https://github.com/Dao-AILab/flash-attention

Аутор	SHA1 Порука	Датум
Tri Dao	eb33e587e9 [LayerNorm] Rename x1 -> residual	пре 1 година
Tri Dao	6738d9477d [LayerNorm] Implement RMS Norm	пре 1 година
Tri Dao	5db330519a [LayerNorm] Support taking subset of input or subset of output	пре 2 година
Tri Dao	ae137ed17a [LayerNorm] Fuse LayerScale	пре 2 година
Tri Dao	8c6609ae1a [LayerNorm] Support all dimensions up to 6k (if divisible by 8)	пре 2 година
Tri Dao	fa6d1ce44f Add fused_dense and dropout_add_layernorm CUDA extensions	пре 2 година