.. |
__init__.py
|
89a2c6dee1
chore: refactor `MultiModalConfig` initialization and profiling (#745)
|
3 månader sedan |
arctic.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
baichuan.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
bart.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
blip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
blip2.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
bloom.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
chameleon.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
chatglm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
clip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
commandr.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
dbrx.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
decilm.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 månader sedan |
deepseek.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
deepseek_v2.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 månader sedan |
exaone.py
|
08711d2ac9
feat: add Exaone model support (#743)
|
3 månader sedan |
falcon.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
fuyu.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
gemma.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
gemma2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
gpt2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
gpt_bigcode.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
gpt_j.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
gpt_neox.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
idefics2_vision_model.py
|
f1d0b77c92
[0.6.0] Release Candidate (#481)
|
4 månader sedan |
interfaces.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
intern_vit.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 månader sedan |
internlm2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
internvl.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
jais.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
jamba.py
|
d34e083c48
feat: add experts_int8 support (#730)
|
3 månader sedan |
llama.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
llama_embedding.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 månader sedan |
llava.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
llava_next.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
mamba.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
mamba_cache.py
|
bf88c8567e
feat: mamba model support (#674)
|
4 månader sedan |
medusa.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
minicpm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
minicpmv.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
mixtral.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 månader sedan |
mixtral_quant.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
mlp_speculator.py
|
3f712cd287
feat: add progress bar for loading individual weight modules (#640)
|
4 månader sedan |
mpt.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
na_vit.py
|
f1d0b77c92
[0.6.0] Release Candidate (#481)
|
4 månader sedan |
nemotron.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
olmo.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
opt.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
orion.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
paligemma.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
persimmon.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
phi.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
phi3_small.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
phi3v.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
qwen.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
qwen2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
qwen2_moe.py
|
4ec08af18b
chore: update fused MoE weight loading (#700)
|
4 månader sedan |
siglip.py
|
0b8b407b6d
feat: support profiling with multiple multi-modal inputs per prompt (#712)
|
4 månader sedan |
solar.py
|
0c6f03b7e4
feat: add Solar model support (#701)
|
4 månader sedan |
stablelm.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
starcoder2.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |
utils.py
|
3693028340
feat: support for Audio modality (#698)
|
4 månader sedan |
xverse.py
|
0e558e9b2f
fix: loading chameleon model with TP>1 (#695)
|
4 månader sedan |