david/flash-attention

огледало от https://github.com/Dao-AILab/flash-attention

Автор	SHA1 Съобщение	Дата
Tri Dao	d0032700d1 Add tests for Pythia, GPT-JT, and RedPajama models	преди 1 година
Tri Dao	8a733cbd53 [Gen] Fix calling update_graph_cache in tests	преди 1 година
Tri Dao	0e8c46ae08 Run isort and black on test files	преди 1 година
Tri Dao	96d10f6545 Implement LLaMa	преди 1 година
Tri Dao	393882bc08 [LayerNorm] Implement LN with parallel residual, support dim 8k	преди 1 година
Tri Dao	993d12448e Implement GPT-NeoX	преди 1 година