david/aphrodite-engine

огледало от https://github.com/PygmalionAI/aphrodite-engine

Автор	SHA1 Съобщение	Дата
AlpinDale	a98babfb74 fix: bnb on Turing GPUs (#299)	преди 10 месеца
AlpinDale	49793d7c5a fix: bump bnb kernels to sm_80 due to async stream copies	преди 10 месеца
AlpinDale	82955ba440 fix: backport bnb kernels (#297)	преди 10 месеца
AlpinDale	e0c35bb353 feat: bitsandbytes and `--load-in{4,8}bit` support (#294)	преди 10 месеца