.. |
__init__.py
|
89a2c6dee1
chore: refactor `MultiModalConfig` initialization and profiling (#745)
|
3 місяців тому |
arctic.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
baichuan.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
bart.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
blip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
blip2.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
bloom.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
chameleon.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
chatglm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
clip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
commandr.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
dbrx.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
decilm.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 місяців тому |
deepseek.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
deepseek_v2.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 місяців тому |
exaone.py
|
08711d2ac9
feat: add Exaone model support (#743)
|
3 місяців тому |
falcon.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
fuyu.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
gemma.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
gemma2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
gpt2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
gpt_bigcode.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
gpt_j.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
gpt_neox.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
idefics2_vision_model.py
|
f1d0b77c92
[0.6.0] Release Candidate (#481)
|
4 місяців тому |
interfaces.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
intern_vit.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 місяців тому |
internlm2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
internvl.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
jais.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
jamba.py
|
d34e083c48
feat: add experts_int8 support (#730)
|
3 місяців тому |
llama.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
llama_embedding.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 місяців тому |
llava.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
llava_next.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
mamba.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
mamba_cache.py
|
bf88c8567e
feat: mamba model support (#674)
|
4 місяців тому |
medusa.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
minicpm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
minicpmv.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
mixtral.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 місяців тому |
mixtral_quant.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
mlp_speculator.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 місяців тому |
mpt.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
na_vit.py
|
f1d0b77c92
[0.6.0] Release Candidate (#481)
|
4 місяців тому |
nemotron.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
olmo.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
opt.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
orion.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
paligemma.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
persimmon.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
phi.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
phi3_small.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
phi3v.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
qwen.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
qwen2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
qwen2_moe.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 місяців тому |
siglip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 місяців тому |
solar.py
|
0c6f03b7e4
feat: add Solar model support (#701)
|
4 місяців тому |
stablelm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
starcoder2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |
utils.py
|
3693028340
feat: support for Audio modality (#698)
|
4 місяців тому |
xverse.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 місяців тому |