david/aphrodite-engine

огледало от https://github.com/PygmalionAI/aphrodite-engine

Автор	SHA1 Съобщение	Дата
AlpinDale	132aa2abe4 spec decode: add support for EAGLE (#899)	преди 1 месец
AlpinDale	48a8693aed feat: multi-step scheduling (#831)	преди 2 месеца
AlpinDale	bfc8988116 feat: add cuda sampling kernels for top_k and top_p (#828)	преди 2 месеца
Pyroserenus	ee5964465d chore: max_num_seqs in throughput benchmark (#770)	преди 3 месеца
AlpinDale	73177656ed feat: quant_llm support (#755)	преди 4 месеца
AlpinDale	f1d0b77c92 [0.6.0] Release Candidate (#481)	преди 4 месеца