AlpinDale 653d1a08d4 feat: add support for audio models (#891) před 3 týdny
..
async_aphrodite c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
basic_correctness abfd4465ca feat: add support for chunked prefill + prefix caching (#871) před 1 měsícem
benchmarks b5aa11020b api: fix crashes under very high loads (#878) před 4 týdny
compile c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
core abfd4465ca feat: add support for chunked prefill + prefix caching (#871) před 1 měsícem
distributed 653d1a08d4 feat: add support for audio models (#891) před 3 týdny
endpoints 653d1a08d4 feat: add support for audio models (#891) před 3 týdny
engine c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
kernels 93bc863591 feat: Machete Kernels for Hopper GPUs (#842) před 1 měsícem
lora 68f050129d fix: lora worker manager test import před 1 měsícem
metrics c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
modeling c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
models 653d1a08d4 feat: add support for audio models (#891) před 3 týdny
multi_step 48a8693aed feat: multi-step scheduling (#831) před 1 měsícem
multimodal c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
plugins c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
prefix_caching 3d83e64f8e feat: add metrics for prefix cache hit rate (#829) před 1 měsícem
prompt_adapter c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
prompts e1f3fd1e02 fix: test units (#201) před 1 rokem
quantization 7f1c9af5e2 fix: fp8 quant test před 1 měsícem
samplers 2150bb5019 sampler: add range parameter for DRY (#855) před 1 měsícem
spec_decode 16b587c104 fix: hidden states handling in batch expansion for spec decoding (#839) před 1 měsícem
tensorizer_loader 32a37e8107 tests: partially fix tensorizer and logprobs tests před 1 měsícem
tokenization c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
weight_loading c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
worker 22a4cd4595 core: fix spec decode metrics and envs circular import (#889) před 3 týdny
__init__.py 2755a48d51 merge dev branch into main (#153) před 1 rokem
conftest.py 653d1a08d4 feat: add support for audio models (#891) před 3 týdny
test_cache_block_hashing.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_config.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_embedded_commit.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_inputs.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_logits_processor.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_regression.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_sampling_params.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_scalartype.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_sequence.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_sharded_state_loader.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
test_utils.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem
utils.py c6c91edab7 ci: update & overhaul test units (#769) před 1 měsícem