AlpinDale adb6982090 models: add support for IBM Granite (PowerLM) models (#978) 3 місяців тому
..
__init__.py adb6982090 models: add support for IBM Granite (PowerLM) models (#978) 3 місяців тому
arctic.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
baichuan.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
bart.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
blip.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
blip2.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
bloom.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
chameleon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
chatglm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
clip.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
commandr.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
dbrx.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
decilm.py 9022c6d869 remove progress_bar imports 5 місяців тому
deepseek.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
deepseek_v2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
eagle.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
exaone.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
falcon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
fuyu.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gemma.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gemma2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gpt2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gpt_bigcode.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gpt_j.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
gpt_neox.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
granite.py adb6982090 models: add support for IBM Granite (PowerLM) models (#978) 3 місяців тому
idefics2_vision_model.py f1d0b77c92 [0.6.0] Release Candidate (#481) 6 місяців тому
interfaces.py 0b8b407b6d feat: support profiling with multiple multi-modal inputs per prompt (#712) 6 місяців тому
intern_vit.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
internlm2.py a8bdd488b9 distributed: support pipeline parallelism for internvl and internlm2 (#965) 3 місяців тому
internvl.py a8bdd488b9 distributed: support pipeline parallelism for internvl and internlm2 (#965) 3 місяців тому
jais.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
jamba.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
llama.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
llama_embedding.py 9022c6d869 remove progress_bar imports 5 місяців тому
llava.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
llava_next.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mamba.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mamba_cache.py bf88c8567e feat: mamba model support (#674) 6 місяців тому
medusa.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
minicpm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
minicpmv.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mixtral.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mixtral_quant.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mlp_speculator.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
mpt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
na_vit.py 9f3e7c86e2 feat: add fused Marlin MoE kernel (#934) 3 місяців тому
nemotron.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
olmo.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
olmoe.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
opt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
orion.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
paligemma.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
persimmon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
phi.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
phi3_small.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
phi3v.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
phimoe.py 201db10f02 models: add support for Phi3 MoE 3 місяців тому
qwen.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
qwen2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
qwen2_moe.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
siglip.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 3 місяців тому
solar.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
stablelm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
starcoder2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
ultravox.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому
utils.py a8bdd488b9 distributed: support pipeline parallelism for internvl and internlm2 (#965) 3 місяців тому
xverse.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 3 місяців тому