AlpinDale 132aa2abe4 spec decode: add support for EAGLE (#899) пре 3 недеља
..
__init__.py 07aa2a492f upstream: add option to specify tokenizer пре 1 година
block.py 7df7b8ca53 optimization: reduce end-to-end overhead from python obj allocation (#666) пре 4 месеци
config.py 132aa2abe4 spec decode: add support for EAGLE (#899) пре 3 недеља
connections.py f1d0b77c92 [0.6.0] Release Candidate (#481) пре 4 месеци
envs.py a00ab49e21 api: add client timeouts for the ZeroMQ server (#897) пре 3 недеља
grammar.py 8a71788372 Add OLMoE (#772) пре 2 месеци
logger.py 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) пре 3 недеља
logits_processor.py 8a71788372 Add OLMoE (#772) пре 2 месеци
outputs.py 0e558e9b2f fix: loading chameleon model with TP>1 (#695) пре 4 месеци
pooling_params.py 2f61644f6e SPMD optimizations (#824) пре 1 месец
sampling_params.py 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) пре 3 недеља
sequence.py 132aa2abe4 spec decode: add support for EAGLE (#899) пре 3 недеља
test_utils.py 8a71788372 Add OLMoE (#772) пре 2 месеци
utils.py 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) пре 3 недеља