AlpinDale 1405051912 attention: add `AttentionState` abstraction (#863) 1 månad sedan
..
__init__.py 9d81716bfd [v0.5.3] Release Candidate (#388) 8 månader sedan
batch_expansion.py 16b587c104 fix: hidden states handling in batch expansion for spec decoding (#839) 1 månad sedan
draft_model_runner.py 1405051912 attention: add `AttentionState` abstraction (#863) 1 månad sedan
interfaces.py f1d0b77c92 [0.6.0] Release Candidate (#481) 4 månader sedan
medusa_worker.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
metrics.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
mlp_speculator_worker.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
multi_step_worker.py 1394008421 chore: decouple `should_modify_greedy_probs_inplace (#671) 4 månader sedan
ngram_worker.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
proposer_worker_base.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
smaller_tp_proposer_worker.py 2f61644f6e SPMD optimizations (#824) 1 månad sedan
spec_decode_worker.py 16b587c104 fix: hidden states handling in batch expansion for spec decoding (#839) 1 månad sedan
target_model_runner.py 89a2c6dee1 chore: refactor `MultiModalConfig` initialization and profiling (#745) 3 månader sedan
top1_proposer.py 16b587c104 fix: hidden states handling in batch expansion for spec decoding (#839) 1 månad sedan
util.py 16b587c104 fix: hidden states handling in batch expansion for spec decoding (#839) 1 månad sedan