50h100a d49ead7334 reduce sampler peak memory usage преди 1 месец
..
fused_moe 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) преди 1 месец
mamba f1d0b77c92 [0.6.0] Release Candidate (#481) преди 4 месеца
ops 8a71788372 Add OLMoE (#772) преди 3 месеца
__init__.py 07aa2a492f upstream: add option to specify tokenizer преди 1 година
activation.py f1d0b77c92 [0.6.0] Release Candidate (#481) преди 4 месеца
layernorm.py bfc3da41ae feat: add torch.compile for GemmaRMSNorm (#898) преди 1 месец
linear.py afc9a28aa0 chore: add AphroditeParameter support for FP8 quant (#902) преди 1 месец
logits_processor.py 0e558e9b2f fix: loading chameleon model with TP>1 (#695) преди 4 месеца
pooler.py f1d0b77c92 [0.6.0] Release Candidate (#481) преди 4 месеца
rejection_sampler.py e3a53712f2 fix: mlpspeculator with padded vocab (#669) преди 4 месеца
rotary_embedding.py 4434c4db84 chore: refactor llama3 rope (#748) преди 4 месеца
sampler.py d49ead7334 reduce sampler peak memory usage преди 1 месец
spec_decode_base_sampler.py 09b82f9963 feat: Add support for GPU device selection in SpecDecodeBaseSampler (#629) преди 4 месеца
typical_acceptance_sampler.py f1d0b77c92 [0.6.0] Release Candidate (#481) преди 4 месеца
vocab_parallel_embedding.py f1d0b77c92 [0.6.0] Release Candidate (#481) преди 4 месеца