Acasă Explorează Ajutor
Înregistrare Autentificare
david
/
aphrodite-engine
oglindă de https://github.com/PygmalionAI/aphrodite-engine
1
0
Bifurcare 0
Fisiere Probleme 0 Wiki
Ramură: lm_head_lora
Ramuri Etichete
aphrodite-engin...
/
aphrodite
/
modeling
/
models
AlpinDale 8e7d214d2d Merge branch 'main' into lm_head_lora 2 săptămâni în urmă
..
__init__.py ec17b6c4d0 fix: Phi3.5 Mini and MoE LoRA inference (#1070) 3 săptămâni în urmă
arctic.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
baichuan.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
bart.py a985143768 core: add cuda graph support for encoder-decoder models (#1051) 3 săptămâni în urmă
blip.py f56d6b396a vlm: fallback to SDPA for ViT models on CPU backend (#982) 1 lună în urmă
blip2.py b4a1e2fd02 vlm: add tensor parallel support for vision transformer models (#971) 1 lună în urmă
bloom.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
chameleon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
chatglm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
clip.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) 1 lună în urmă
commandr.py 135dfd648b fix: LoRA support for Cohere and Jamba models (#1004) 4 săptămâni în urmă
dbrx.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
decilm.py 9022c6d869 remove progress_bar imports 3 luni în urmă
deepseek.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
deepseek_v2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
eagle.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
exaone.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
falcon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
fuyu.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
gemma.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
gemma2.py b33cf04386 quants: add bitsandbytes support for gemma2 model (#1026) 4 săptămâni în urmă
gpt2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
gpt_bigcode.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
gpt_j.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
gpt_neox.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
granite.py 11f49b5341 fix: granite logit scale in logit computation (#1054) 3 săptămâni în urmă
idefics2_vision_model.py f1d0b77c92 [0.6.0] Release Candidate (#481) 4 luni în urmă
interfaces.py 80e7f3b0bd feat: support finetuned lm_head and embed_tokens in LoRA adapters 1 lună în urmă
intern_vit.py f56d6b396a vlm: fallback to SDPA for ViT models on CPU backend (#982) 1 lună în urmă
internlm2.py 7632f91429 fix: InternLM2 model with Tensor Parallel (#980) 1 lună în urmă
internvl.py 41ceb754a6 vlm: fix internvl2 inference with various num_patches (#1030) 4 săptămâni în urmă
jais.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
jamba.py 135dfd648b fix: LoRA support for Cohere and Jamba models (#1004) 4 săptămâni în urmă
llama.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
llama_embedding.py 9022c6d869 remove progress_bar imports 3 luni în urmă
llava.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) 1 lună în urmă
llava_next.py 766ea79b89 vlm: fix feature size calculation for llava-next models (#1079) 2 săptămâni în urmă
llava_next_video.py be59e30139 vlm: add support for video modality + llava next video (#1014) 4 săptămâni în urmă
mamba.py 3bb0f07461 chore: rename `task_handler` to `worker` (#985) 1 lună în urmă
mamba_cache.py a113309876 kernel: add meta functions for ops to prevent graph breaks (#1019) 4 săptămâni în urmă
medusa.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
minicpm.py ce7b602f03 model: add support for MiniCPM-3 (#1044) 4 săptămâni în urmă
minicpm3.py ce7b602f03 model: add support for MiniCPM-3 (#1044) 4 săptămâni în urmă
minicpmv.py 548e864404 models: add support for QwenVL (#995) 1 lună în urmă
mixtral.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
mixtral_quant.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
mlp_speculator.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
molmo.py acc0c727c8 vlm: add support for molmo vision model (#1069) 3 săptămâni în urmă
mpt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
na_vit.py 9f3e7c86e2 feat: add fused Marlin MoE kernel (#934) 1 lună în urmă
nemotron.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
olmo.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
olmoe.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
opt.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
orion.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
paligemma.py 46d577f019 vlm: fix siglip layernorm and paligemma weight loading (#991) 1 lună în urmă
persimmon.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
phi.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
phi3.py ec17b6c4d0 fix: Phi3.5 Mini and MoE LoRA inference (#1070) 3 săptămâni în urmă
phi3_small.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
phi3v.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) 1 lună în urmă
phimoe.py ec17b6c4d0 fix: Phi3.5 Mini and MoE LoRA inference (#1070) 3 săptămâni în urmă
pixtral.py 1721bea53a vlm: add support for Pixtral model (#1022) 4 săptămâni în urmă
qwen.py 6212072245 api: support LoRA lineage and base model metadata management (#1072) 3 săptămâni în urmă
qwen2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
qwen2_moe.py 5224389dae chore: skip loading extra bias for qwen2 moe GPTQ (#1011) 4 săptămâni în urmă
qwen2_vl.py 6212072245 api: support LoRA lineage and base model metadata management (#1072) 3 săptămâni în urmă
siglip.py 4d14bd1fe5 vlm: add multi-input support for LLaVA and InternVL models (#1002) 1 lună în urmă
solar.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
stablelm.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
starcoder2.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă
ultravox.py 8eb4a3cfd3 vlm: support multiple audios per prompt for Ultravox (#990) 1 lună în urmă
utils.py a8bdd488b9 distributed: support pipeline parallelism for internvl and internlm2 (#965) 1 lună în urmă
xverse.py 0dfa6b60ec core: support logprobs with multi-step scheduling (#963) 1 lună în urmă