david/flash-attention

şunun yansıması https://github.com/Dao-AILab/flash-attention

Yazar	SHA1 Mesaj	Tarih
Tri Dao	f1a73d0740 Run isort and black on python files	1 yıl önce
Tri Dao	ff34123bd4 Reorder LN in Block, support OPT	1 yıl önce
Tri Dao	93383bd55b [TP] Implement TensorParallel without sequence parallel	1 yıl önce
Tri Dao	4cab4de5ea [TP] Put parallel embeddings in separate modules	1 yıl önce
Tri Dao	78225c5366 Implement Tensor Parallel for GPT2Embeddings	2 yıl önce
Tri Dao	5fb6df0e04 Implement BERT	2 yıl önce
Tri Dao	d4b320b31f Add MLP, MHA, Block, Embedding modules	2 yıl önce