AlpinDale 9bbc75d2e3 wip 6 månader sedan
..
__init__.py 5884e0b904 add bitnetforcausallm support 6 månader sedan
arctic.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
baichuan.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
bitnet.py 9bbc75d2e3 wip 6 månader sedan
bloom.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
chatglm.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
commandr.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
dbrx.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
decilm.py 50b7c13db0 refactor: attention selector (#552) 6 månader sedan
deepseek.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
falcon.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
gemma.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
gpt2.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
gpt_bigcode.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
gpt_j.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
gpt_neox.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
internlm2.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
jais.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
llama.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan
llama_embedding.py 50b7c13db0 refactor: attention selector (#552) 6 månader sedan
llava.py 24a2d9c2c8 minor llava refactoring 6 månader sedan
minicpm.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
mixtral.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan
mixtral_quant.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan
mpt.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
olmo.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
opt.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
orion.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
phi.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
phi3_small.py 696f2cd59c add phi3_small support with blocksparse attention 6 månader sedan
qwen.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
qwen2.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan
qwen2_moe.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
stablelm.py 656459fd84 make fp8_e4m3 work on nvidia 6 månader sedan
starcoder2.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan
vlm_base.py f970f3f3fb add base class for VLMs 6 månader sedan
xverse.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 månader sedan