AlpinDale 237fa59aea feat: support CPU/GPU swapping in BlockManagerV2 7 месяцев назад
..
__init__.py 07aa2a492f upstream: add option to specify tokenizer 1 год назад
block.py ac82b67f75 feat: naive context shift and various QoL changes (#289) 1 год назад
config.py 237fa59aea feat: support CPU/GPU swapping in BlockManagerV2 7 месяцев назад
grammar.py 0527131e93 fix: grammar logits processor (#268) 1 год назад
inputs.py 9d19811d4f avoid the nee dto pass `None` values to `Sequence.inputs` 7 месяцев назад
logger.py 46159b107a formatting: pt1 8 месяцев назад
logits_processor.py 9d81716bfd [v0.5.3] Release Candidate (#388) 10 месяцев назад
outputs.py 90ceab32ff refactor: consolidate prompt args to LLM engines 7 месяцев назад
pooling_params.py be8154a8a0 feat: proper embeddings API with e5-mistral-7b support 7 месяцев назад
sampling_params.py e8b7f53321 allow prompt token IDs in the logits processor api 7 месяцев назад
sequence.py 8d77c69cbd feat: support image processor and add llava example 7 месяцев назад
test_utils.py 9d81716bfd [v0.5.3] Release Candidate (#388) 10 месяцев назад
utils.py b029a544ff optimize eager mode host time with numpy 7 месяцев назад