.. |
__init__.py
|
07aa2a492f
upstream: add option to specify tokenizer
|
1 рік тому |
block.py
|
ac82b67f75
feat: naive context shift and various QoL changes (#289)
|
1 рік тому |
config.py
|
656459fd84
make fp8_e4m3 work on nvidia
|
7 місяців тому |
grammar.py
|
0527131e93
fix: grammar logits processor (#268)
|
1 рік тому |
logger.py
|
46159b107a
formatting: pt1
|
8 місяців тому |
logits_processor.py
|
9d81716bfd
[v0.5.3] Release Candidate (#388)
|
10 місяців тому |
outputs.py
|
be8154a8a0
feat: proper embeddings API with e5-mistral-7b support
|
7 місяців тому |
pooling_params.py
|
be8154a8a0
feat: proper embeddings API with e5-mistral-7b support
|
7 місяців тому |
sampling_params.py
|
7e3887f8f8
use random seed if -1
|
7 місяців тому |
sequence.py
|
a94de94c44
refactor: combine the prefill and decode into a single API (#553)
|
7 місяців тому |
test_utils.py
|
9d81716bfd
[v0.5.3] Release Candidate (#388)
|
10 місяців тому |
utils.py
|
656459fd84
make fp8_e4m3 work on nvidia
|
7 місяців тому |