david/aphrodite-engine

огледало от https://github.com/PygmalionAI/aphrodite-engine

Автор	SHA1 Съобщение	Дата
AlpinDale	00503b9fc1 feat: non-uniform quantization via `compressed-tensors` for llama	преди 4 месеца
AlpinDale	ee2c5d34da feat: add fp8 channel-wise weight quantization support	преди 4 месеца
AlpinDale	98cb1c4cd1 feat: support fp8 via `llm-compressor`	преди 4 месеца
AlpinDale	e2dbe5f05c feat: add sparse marlin for compressed tensors	преди 5 месеца
AlpinDale	aba03b4756 feat: dynamic per-token activation quantization	преди 5 месеца