AlpinDale 7ca63930c8 support deepseek_v3 model před 4 týdny
..
__init__.py 7ca63930c8 support deepseek_v3 model před 4 týdny
arctic.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
baichuan.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
bart.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
blip.py f56d6b396a vlm: fallback to SDPA for ViT models on CPU backend (#982) před 1 měsícem
blip2.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) před 1 měsícem
bloom.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
chameleon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
chatglm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
clip.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) před 1 měsícem
commandr.py 135dfd648b fix: LoRA support for Cohere and Jamba models (#1004) před 1 měsícem
dbrx.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
decilm.py 9022c6d869 remove progress_bar imports před 3 měsíci
deepseek.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
deepseek_v2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
deepseek_v3.py 7ca63930c8 support deepseek_v3 model před 4 týdny
eagle.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
exaone.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
falcon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
fuyu.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
gemma.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
gemma2.py b33cf04386 quants: add bitsandbytes support for gemma2 model (#1026) před 4 týdny
gpt2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
gpt_bigcode.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
gpt_j.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
gpt_neox.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
granite.py 411ac4f405 vlm: add support for Qwen2-VL model (#1015) před 1 měsícem
idefics2_vision_model.py f1d0b77c92 [0.6.0] Release Candidate (#481) před 4 měsíci
interfaces.py 0b8b407b6d feat: support profiling with multiple multi-modal inputs per prompt (#712) před 4 měsíci
intern_vit.py f56d6b396a vlm: fallback to SDPA for ViT models on CPU backend (#982) před 1 měsícem
internlm2.py 7632f91429 fix: InternLM2 model with Tensor Parallel (#980) před 1 měsícem
internvl.py 41ceb754a6 vlm: fix internvl2 inference with various num_patches (#1030) před 4 týdny
jais.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
jamba.py 135dfd648b fix: LoRA support for Cohere and Jamba models (#1004) před 1 měsícem
llama.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
llama_embedding.py 9022c6d869 remove progress_bar imports před 3 měsíci
llava.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) před 1 měsícem
llava_next.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) před 1 měsícem
llava_next_video.py be59e30139 vlm: add support for video modality + llava next video (#1014) před 1 měsícem
mamba.py 3bb0f07461 chore: rename `task_handler` to `worker` (#985) před 1 měsícem
mamba_cache.py a113309876 kernel: add meta functions for ops to prevent graph breaks (#1019) před 4 týdny
medusa.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
minicpm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
minicpmv.py 548e864404 models: add support for QwenVL (#995) před 1 měsícem
mixtral.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
mixtral_quant.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
mlp_speculator.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
mpt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
na_vit.py 9f3e7c86e2 feat: add fused Marlin MoE kernel (#934) před 1 měsícem
nemotron.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
olmo.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
olmoe.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
opt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
orion.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
paligemma.py 46d577f019 vlm: fix siglip layernorm and paligemma weight loading (#991) před 1 měsícem
persimmon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
phi.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
phi3_small.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
phi3v.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) před 1 měsícem
phimoe.py 201db10f02 models: add support for Phi3 MoE před 1 měsícem
pixtral.py 1721bea53a vlm: add support for Pixtral model (#1022) před 4 týdny
qwen.py 8d5d87e687 vlm: support multiple images for qwen-vl (#1031) před 4 týdny
qwen2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
qwen2_moe.py 5224389dae chore: skip loading extra bias for qwen2 moe GPTQ (#1011) před 1 měsícem
qwen2_vl.py 411ac4f405 vlm: add support for Qwen2-VL model (#1015) před 1 měsícem
siglip.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) před 1 měsícem
solar.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
stablelm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
starcoder2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem
ultravox.py 8eb4a3cfd3 vlm: support multiple audios per prompt for Ultravox (#990) před 1 měsícem
utils.py a8bdd488b9 distributed: support pipeline parallelism for internvl and internlm2 (#965) před 1 měsícem
xverse.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) před 1 měsícem