 Tri Dao
|
c7f32a8409
[CrossEntropy] Support precomputed LSE
|
há 3 meses atrás |
|
Tri Dao
|
08124c8f9c
[CrossEntropy] Implement logit_scale option
|
há 1 ano atrás |
|
Tri Dao
|
aaa1474129
[CrossEntropy] Simplify the case of large vocab with Tensor Parallel
|
há 1 ano atrás |
|
Tri Dao
|
5400fdc4ac
[CE] Implement CrossEntropyLoss in Triton
|
há 1 ano atrás |
|
Tri Dao
|
0e8c46ae08
Run isort and black on test files
|
há 1 ano atrás |
|
Tri Dao
|
c6ecd40a59
Tweak CrossEntropyLoss to take process_group in init
|
há 1 ano atrás |
|
Tri Dao
|
b4018a5028
Implement Tensor Parallel for GPT model
|
há 2 anos atrás |
|
Tri Dao
|
dff68c2b22
Add smoothing for CrossEntropyParallel, rename to CrossEntropyLoss
|
há 2 anos atrás |
|
Tri Dao
|
343492ec30
Make nccl operations async in CrossEntropyLossParallel
|
há 2 anos atrás |
|
Tri Dao
|
7c9953815a
Add fused cross entropy loss
|
há 2 anos atrás |
