Sākums Izpētīt Palīdzība
Reģistrēties Pierakstīties
david
/
flash-attention
spogulis no https://github.com/Dao-AILab/flash-attention
1
0
Atdalīts 0
Faili Problēmas 0 Vikivietne
Koks: 0bf5e50038
Atzari Tagi
flash-attention
/
training
/
configs
/
optimizer
/
adamw-apex.yaml

adamw-apex.yaml 81 B
Vēsture Neapstrādāts

123 
  1. # @package train.optimizer
    2. 

  2. _target_: apex.optimizers.FusedAdam
    3. 

  3. adam_w_mode: True
    4.