Эхлэл Бүгдийг харах Тусламж
Бүртгүүлэх Нэвтрэх
david
/
flash-attention
-ын хуулбар https://github.com/Dao-AILab/flash-attention
1
0
Салаа 0
Файлууд Асуудлууд 0 Мэдлэгийн сан
Мод: 9b6cba16c1
Салаанууд Тагууд
flash-attention
/
examples
/
inference
Tri Dao 02ac572f3f Clarify inference README is a placeholder 1 жил өмнө
..
README.md 02ac572f3f Clarify inference README is a placeholder 1 жил өмнө

README.md

Example of LLM inference using FlashAttention

Example script of using FlashAttention for inference coming soon.