 AlpinDale
|
b20083a1f3
feat: finish kernel testing
|
преди 1 година |
|
AlpinDale
|
7906b3566c
add layernorm test
|
преди 1 година |
|
AlpinDale
|
a22310d8fc
feat: add cache kernel tests
|
преди 1 година |
|
AlpinDale
|
46db0b58fb
feat: add activation and attention kernel tests
|
преди 1 година |
 AlpinDale
|
8ce628fff4
readme: permalink instead of blob
|
преди 1 година |
|
AlpinDale
|
56161a9674
readme: update sampling_params.py reference
|
преди 1 година |
 Stefan Gligorijevic
|
985503e899
Merge pull request #27 from StefanGliga/samplers-next
|
преди 1 година |
|
Stefan Gligorijevic
|
0feaa6eba8
Merge branch 'main' into samplers-next
|
преди 1 година |
|
Stefan Gligorijevic
|
99c056d88a
chore: document top_a and rep_pen
|
преди 1 година |
 50h100a
|
a86b934469
Fix LogitProcessor infrastructure (#26)
|
преди 1 година |
|
Stefan Gligorijevic
|
124a55a6bf
remove repetition penalty alias in ooba api
|
преди 1 година |
|
Stefan Gligorijevic
|
e107f0f009
Merge pull request #24 from 50h100a/new_samplers
|
преди 1 година |
 50h100a
|
b1bbec5625
Merge branch 'main' of https://github.com/PygmalionAI/aphrodite-engine into new_samplers
|
преди 1 година |
|
50h100a
|
633b99d266
Merge branch 'new_samplers' of https://github.com/50h100a/aphrodite-engine into new_samplers
|
преди 1 година |
|
50h100a
|
490e14c038
function rename
|
преди 1 година |
|
Stefan Gligorijevic
|
8a6c9f5cbd
fix eta,eps and typical for parallel requests
|
преди 1 година |
|
50h100a
|
1da9efbcc7
restore rope scaling (#25)
|
преди 1 година |
|
Stefan Gligorijevic
|
99f76323ad
Misc fixes in eta, eps, and typical
|
преди 1 година |
|
AlpinDale
|
022380e896
`entropy_deviation` -> `surprisal_deviation`
|
преди 1 година |
|
Stefan Gligorijevic
|
048572e4dd
Add eta, epsilon, and locally typical sampling
|
преди 1 година |
|
Stefan Gligorijevic
|
5649694aaa
fix tfs (#29)
|
преди 1 година |
|
AlpinDale
|
05fbb79380
readme: add WSL instructions
|
преди 1 година |
|
AlpinDale
|
f32d57ed04
add inference examples
|
преди 1 година |
|
AlpinDale
|
803decce85
Merge branch 'main' into new_samplers
|
преди 1 година |
|
Stefan Gligorijevic
|
a91d5cc708
feat: add tail-free sampling (#23)
|
преди 1 година |
|
50h100a
|
4ec14685e8
Added top_a and repetition_penalty samplers.
|
преди 1 година |
|
AlpinDale
|
e2f3ee4e29
add complex64 datatype kernel
|
преди 1 година |
|
AlpinDale
|
39895a7670
update readme
|
преди 1 година |
|
AlpinDale
|
1adc4cc248
bump version to v0.3.2
|
преди 1 година |
|
AlpinDale
|
0495c50a3e
GPTQ+exllama support (#21)
|
преди 1 година |
