AlpinDale 9bbc75d2e3 wip 6 ヶ月 前
..
__init__.py 5884e0b904 add bitnetforcausallm support 6 ヶ月 前
arctic.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
baichuan.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
bitnet.py 9bbc75d2e3 wip 6 ヶ月 前
bloom.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
chatglm.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
commandr.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
dbrx.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
decilm.py 50b7c13db0 refactor: attention selector (#552) 6 ヶ月 前
deepseek.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
falcon.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
gemma.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
gpt2.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
gpt_bigcode.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
gpt_j.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
gpt_neox.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
internlm2.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
jais.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
llama.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前
llama_embedding.py 50b7c13db0 refactor: attention selector (#552) 6 ヶ月 前
llava.py 24a2d9c2c8 minor llava refactoring 6 ヶ月 前
minicpm.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
mixtral.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前
mixtral_quant.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前
mpt.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
olmo.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
opt.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
orion.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
phi.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
phi3_small.py 696f2cd59c add phi3_small support with blocksparse attention 6 ヶ月 前
qwen.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
qwen2.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前
qwen2_moe.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
stablelm.py 656459fd84 make fp8_e4m3 work on nvidia 6 ヶ月 前
starcoder2.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前
vlm_base.py f970f3f3fb add base class for VLMs 6 ヶ月 前
xverse.py ac79d115b3 add guards for prefix caching, fp8, chunked, etc 6 ヶ月 前