Commit History

Upphovsman SHA1 Meddelande Datum
  Tri Dao f1a73d0740 Run isort and black on python files 1 år sedan
  Tri Dao ff34123bd4 Reorder LN in Block, support OPT 2 år sedan
  Tri Dao 93383bd55b [TP] Implement TensorParallel without sequence parallel 2 år sedan
  Tri Dao 4cab4de5ea [TP] Put parallel embeddings in separate modules 2 år sedan
  Tri Dao 78225c5366 Implement Tensor Parallel for GPT2Embeddings 2 år sedan
  Tri Dao 5fb6df0e04 Implement BERT 2 år sedan
  Tri Dao d4b320b31f Add MLP, MHA, Block, Embedding modules 2 år sedan