| .. |
|
layers
|
31c95011a6
feat: FP8 E5M2 KV Cache (#226)
|
há 1 ano atrás |
|
megatron
|
31c95011a6
feat: FP8 E5M2 KV Cache (#226)
|
há 1 ano atrás |
|
models
|
c0aac15421
feat: S-LoRA support (#222)
|
há 1 ano atrás |
|
__init__.py
|
8fa608aeb7
feat: replace Ray with NCCL for control plane comms (#221)
|
há 1 ano atrás |
|
hf_downloader.py
|
8fa608aeb7
feat: replace Ray with NCCL for control plane comms (#221)
|
há 1 ano atrás |
|
loader.py
|
c0aac15421
feat: S-LoRA support (#222)
|
há 1 ano atrás |
|
metadata.py
|
31c95011a6
feat: FP8 E5M2 KV Cache (#226)
|
há 1 ano atrás |
|
sampling_metadata.py
|
8fa608aeb7
feat: replace Ray with NCCL for control plane comms (#221)
|
há 1 ano atrás |
|
utils.py
|
2755a48d51
merge dev branch into main (#153)
|
há 1 ano atrás |
AlpinDale
31c95011a6
feat: FP8 E5M2 KV Cache (#226)