Domovská stránka Prehľadávať Pomoc
Registrovať Prihlásiť sa
david
/
flash-attention
zrkadlo https://github.com/Dao-AILab/flash-attention
1
0
Fork 0
Súbory Issues 0 Wiki
Branch: main
Branche Tagy
flash-attention
/
training
/
configs
/
scheduler
/
invsqrt.yaml

invsqrt.yaml 90 B
Permanentný odkaz História Raw

123 
  1. # @package train.scheduler
    2. 

  2. _target_: src.optim.lr_scheduler.InvSqrt
    3. 

  3. num_warmup_steps: ???
    4.