AlpinDale fc5ef786b0 Merge branch 'main' into lm_head_lora 6 dagar sedan
..
__init__.py 07aa2a492f upstream: add option to specify tokenizer 1 år sedan
block.py 7df7b8ca53 optimization: reduce end-to-end overhead from python obj allocation (#666) 4 månader sedan
config.py fc5ef786b0 Merge branch 'main' into lm_head_lora 6 dagar sedan
connections.py f1d0b77c92 [0.6.0] Release Candidate (#481) 5 månader sedan
envs.py 9a7d5514c4 feat: introduce MQAphroditeEngine (#1056) 1 månad sedan
grammar.py 8a71788372 Add OLMoE (#772) 3 månader sedan
logger.py 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) 1 månad sedan
logits_processor.py 8a71788372 Add OLMoE (#772) 3 månader sedan
outputs.py 055c8905a3 api: add sampling/engine option to return only deltas or final output (#1035) 1 månad sedan
pooling_params.py 2f61644f6e SPMD optimizations (#824) 2 månader sedan
sampling_params.py f20f5c3491 samplers: improved DRY performance (#1108) 1 vecka sedan
sequence.py 651678d2df VLM: use `SequenceData.from_token_counts` to create dummy data (#1093) 1 vecka sedan
test_utils.py 8a71788372 Add OLMoE (#772) 3 månader sedan
utils.py 76088aa43a distributed: allow IPv6 in APHRODITE_HOST_IP with ZMQ (#1105) 1 vecka sedan