david/flash-attention

огледало од https://github.com/Dao-AILab/flash-attention

Аутор	SHA1 Порука	Датум
Tri Dao	d0032700d1 Add tests for Pythia, GPT-JT, and RedPajama models	пре 1 година
Tri Dao	8a733cbd53 [Gen] Fix calling update_graph_cache in tests	пре 1 година
Tri Dao	0e8c46ae08 Run isort and black on test files	пре 1 година
Tri Dao	96d10f6545 Implement LLaMa	пре 1 година
Tri Dao	393882bc08 [LayerNorm] Implement LN with parallel residual, support dim 8k	пре 1 година
Tri Dao	993d12448e Implement GPT-NeoX	пре 1 година