Historie revizí

Autor SHA1 Zpráva Datum
  AlpinDale e177788401 add moe tests před 8 měsíci
  AlpinDale 9da2946652 update kernel tests před 8 měsíci
  AlpinDale 2172a9c374 add fp8_e4m3fn scales for llama2 7b and 70b před 8 měsíci
  AlpinDale e28c8496b2 endpoint tests před 8 měsíci
  AlpinDale ce10891496 add more engine-related tests: před 8 měsíci
  AlpinDale bfca95c1a8 update detokenization test před 8 měsíci
  AlpinDale 9e1cea354c add distributed system tests před 8 měsíci
  AlpinDale 54ed7adef3 add core processor tests před 8 měsíci
  AlpinDale 3a206f9e11 add chunked prefill correctness test před 8 měsíci
  AlpinDale 0558b22749 basic correctness test před 8 měsíci
  AlpinDale 9082ac7b7a add async engine test units před 8 měsíci
  sgsdxzy fcfb72af24 Support arbitrary model in GGUF. (#381) před 8 měsíci
  AlpinDale bd0ddf1cfe feat: EETQ quantization (#408) před 8 měsíci
  AlpinDale b1caee23a6 cache the p2p access check for memory saving před 8 měsíci
  AlpinDale 373e0d3c01 fix neuron před 8 měsíci
  AlpinDale 28bcca2396 incorrect use of monotonic time in metrics logger před 8 měsíci
  AlpinDale 4ba273886a debug logging for distributed_init_method před 8 měsíci
  AlpinDale 1270b5567e triton compile error for flash_attn před 8 měsíci
  AlpinDale f375353026 enable custom_all_reduce by default in llm.py před 8 měsíci
  AlpinDale 2d2b43fe00 fix type hint před 8 měsíci
  AlpinDale 531969a0b2 move merge_async_iterators to common utils před 8 měsíci
  AlpinDale c18bf116da fix stop strings not being excluded from outputs před 8 měsíci
  AlpinDale 5ab7a159d7 fix formatting for previous commit před 8 měsíci
  AlpinDale b6bbf584ac fix echo před 8 měsíci
  AlpinDale 6e0761ba5d make init_distributed_environment compatible with init_process_group před 8 měsíci
  AlpinDale 083ba7b452 roll back chunked prefill changes to SDPA, isolate cpu worker před 8 měsíci
  AlpinDale 8c67b37131 fix docstrings před 8 měsíci
  AlpinDale fe17712f29 fully working chunked prefill před 8 měsíci
  AlpinDale 8db2fa8e2e why was that not committed? před 8 měsíci
  AlpinDale 54678c91f3 fix outlines requirements před 8 měsíci