AlpinDale 656459fd84 make fp8_e4m3 work on nvidia 7 kuukautta sitten
..
__init__.py 07aa2a492f upstream: add option to specify tokenizer 1 vuosi sitten
block.py ac82b67f75 feat: naive context shift and various QoL changes (#289) 1 vuosi sitten
config.py 656459fd84 make fp8_e4m3 work on nvidia 7 kuukautta sitten
grammar.py 0527131e93 fix: grammar logits processor (#268) 1 vuosi sitten
logger.py 46159b107a formatting: pt1 8 kuukautta sitten
logits_processor.py 9d81716bfd [v0.5.3] Release Candidate (#388) 10 kuukautta sitten
outputs.py be8154a8a0 feat: proper embeddings API with e5-mistral-7b support 7 kuukautta sitten
pooling_params.py be8154a8a0 feat: proper embeddings API with e5-mistral-7b support 7 kuukautta sitten
sampling_params.py 7e3887f8f8 use random seed if -1 7 kuukautta sitten
sequence.py a94de94c44 refactor: combine the prefill and decode into a single API (#553) 7 kuukautta sitten
test_utils.py 9d81716bfd [v0.5.3] Release Candidate (#388) 10 kuukautta sitten
utils.py 656459fd84 make fp8_e4m3 work on nvidia 7 kuukautta sitten