david/flash-attention

zrcadlo https://github.com/Dao-AILab/flash-attention

Autor	SHA1 Zpráva	Datum
Tri Dao	82dc825759 Don't use the unsafe convert_type function	před 2 měsíci
Tri Dao	fe412d6b36 Redo rotary when contiguous	před 2 měsíci
Tri Dao	bc8a001d8d Load cos/sin by splitting the work among threads on the same row	před 2 měsíci
Tri Dao	0c49ac9a07 Implement rotary non-interleaved	před 2 měsíci
Tri Dao	b2d3fe92ff Move rotary to a separate file	před 2 měsíci
Tri Dao	9f82a326ad Implement rotary for attn decode	před 2 měsíci