Domů Procházet Nápověda
Registrovat se Přihlásit se
david
/
flash-attention
zrcadlo https://github.com/Dao-AILab/flash-attention
1
0
Rozštěpit 0
Soubory Úkoly 0 Wiki
Strom: 7bc3f031a4
Větve Značky
flash-attention
/
hopper
Tri Dao 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
..
instantiations 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
__init__.py 7f67966cc7 FA3 initial code release před 6 měsíci
benchmark_attn.py 7a802796e1 Big refactor and update před 2 dny
benchmark_flash_attention_fp8.py a5a75274bc FA3 kvcache + split kv + gqa parallelization (#1236) před 2 měsíci
benchmark_split_kv.py a5a75274bc FA3 kvcache + split kv + gqa parallelization (#1236) před 2 měsíci
combine.h 478ee666cc Make namespace comment consistent (#1305) před 2 měsíci
copy_sm90_bulk_reduce.hpp 7a802796e1 Big refactor and update před 2 dny
epilogue_bwd.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
epilogue_fwd.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
flash.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
flash_api.cpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
flash_attn_interface.py 7a802796e1 Big refactor and update před 2 dny
flash_bwd_kernel_sm80.h 7a802796e1 Big refactor and update před 2 dny
flash_bwd_kernel_sm90.h 7a802796e1 Big refactor and update před 2 dny
flash_bwd_launch_template.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
flash_bwd_postprocess_kernel.h 7a802796e1 Big refactor and update před 2 dny
flash_bwd_preprocess_kernel.h 7a802796e1 Big refactor and update před 2 dny
flash_fwd_combine_kernel.h 7a802796e1 Big refactor and update před 2 dny
flash_fwd_combine_launch_template.h 7a802796e1 Big refactor and update před 2 dny
flash_fwd_combine_sm80.cu 7a802796e1 Big refactor and update před 2 dny
flash_fwd_kernel_sm80.h 7a802796e1 Big refactor and update před 2 dny
flash_fwd_kernel_sm90.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
flash_fwd_launch_template.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
generate_kernels.py 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
heuristics.h 7a802796e1 Big refactor and update před 2 dny
mainloop_bwd_sm80.hpp 7a802796e1 Big refactor and update před 2 dny
mainloop_bwd_sm90_tma_gmma_ws.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
mainloop_fwd_sm80.hpp 7a802796e1 Big refactor and update před 2 dny
mainloop_fwd_sm90_tma_gmma_ws.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
mask.h 7a802796e1 Big refactor and update před 2 dny
named_barrier.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
pack_gqa.h 7a802796e1 Big refactor and update před 2 dny
padding.py 7a802796e1 Big refactor and update před 2 dny
paged_kv.h 7a802796e1 Big refactor and update před 2 dny
rotary.h 7a802796e1 Big refactor and update před 2 dny
seqlen.h 7a802796e1 Big refactor and update před 2 dny
setup.py 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
sm90_pipeline_no_cluster.hpp 68bf390920 Update Cutlass to fix mem fence před 2 dny
softmax.h 7a802796e1 Big refactor and update před 2 dny
static_switch.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
test_attn_kvcache.py a5a75274bc FA3 kvcache + split kv + gqa parallelization (#1236) před 2 měsíci
test_flash_attn.py 7a802796e1 Big refactor and update před 2 dny
test_kvcache.py a5a75274bc FA3 kvcache + split kv + gqa parallelization (#1236) před 2 měsíci
test_util.py 7a802796e1 Big refactor and update před 2 dny
tile_scheduler.hpp 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem
tile_size.h 7a802796e1 Big refactor and update před 2 dny
utils.h 7bc3f031a4 Compile for both Sm80 and Sm90 před 1 dnem