AlpinDale 2242da5a4d feat: add metrics for prefix cache hit rate 2 månader sedan
..
async_aphrodite c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
basic_correctness 2f61644f6e SPMD optimizations (#824) 2 månader sedan
benchmarks bfc8988116 feat: add cuda sampling kernels for top_k and top_p (#828) 2 månader sedan
compile c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
core 2242da5a4d feat: add metrics for prefix cache hit rate 2 månader sedan
distributed 2f61644f6e SPMD optimizations (#824) 2 månader sedan
endpoints 262cbc63b7 fix: vision api test template path 2 månader sedan
engine c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
kernels c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
lora 68f050129d fix: lora worker manager test import 2 månader sedan
metrics c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
modeling c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
models c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
multimodal c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
plugins c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
prefix_caching 2242da5a4d feat: add metrics for prefix cache hit rate 2 månader sedan
prompt_adapter c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
prompts e1f3fd1e02 fix: test units (#201) 1 år sedan
quantization 7f1c9af5e2 fix: fp8 quant test 2 månader sedan
samplers 22427602eb feat: add top-nsigma sampling method 2 månader sedan
spec_decode 2f61644f6e SPMD optimizations (#824) 2 månader sedan
tensorizer_loader 32a37e8107 tests: partially fix tensorizer and logprobs tests 2 månader sedan
tokenization c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
weight_loading c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
worker 2f61644f6e SPMD optimizations (#824) 2 månader sedan
__init__.py 2755a48d51 merge dev branch into main (#153) 1 år sedan
conftest.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_cache_block_hashing.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_config.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_embedded_commit.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_inputs.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_logits_processor.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_regression.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_sampling_params.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_scalartype.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_sequence.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_sharded_state_loader.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
test_utils.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan
utils.py c6c91edab7 ci: update & overhaul test units (#769) 2 månader sedan