AlpinDale 058e629f8e chore: refactor marlin python utils 6 tháng trước cách đây
..
adapter_commons 99680b2d23 feat: soft prompts (#589) 6 tháng trước cách đây
attention 2105e4fd6b feat: correctly invoke prefill & decode kernels for cross-attention 6 tháng trước cách đây
common 16dff9babc chore: enable bonus token in spec decoding for KV cache based models 6 tháng trước cách đây
distributed dba22e4f83 fix: add zeromq fallback for broadcasting large objects (e.g. vlm images) 6 tháng trước cách đây
endpoints a3b56353fa fix: another one missed 6 tháng trước cách đây
engine c0c2b1ac20 fix: get_and_reset only when scheduler outputs are not empty 6 tháng trước cách đây
executor 4501ae5f15 fix: neuron executor for adapters 6 tháng trước cách đây
inputs 4f7d212b70 feat: remove vision language config 6 tháng trước cách đây
kv_quant e42a78381a feat: switch from pylint to ruff (#322) 1 năm trước cách đây
lora 99680b2d23 feat: soft prompts (#589) 6 tháng trước cách đây
modeling db73f03cdc fix: use ParallelLMHead for MLPSpeculator 6 tháng trước cách đây
multimodal c11a8bdaad fix: calculate max number of multi-modal tokens automatically 6 tháng trước cách đây
platforms 1a40bf438b fix: incorrect gpu capability when used mixed gpus 6 tháng trước cách đây
processing 99680b2d23 feat: soft prompts (#589) 6 tháng trước cách đây
prompt_adapter 99680b2d23 feat: soft prompts (#589) 6 tháng trước cách đây
quantization 058e629f8e chore: refactor marlin python utils 6 tháng trước cách đây
spec_decode 16dff9babc chore: enable bonus token in spec decoding for KV cache based models 6 tháng trước cách đây
task_handler d9f4c36edd feat: Medusa speculative decoding support (#590) 6 tháng trước cách đây
transformers_utils d9f4c36edd feat: Medusa speculative decoding support (#590) 6 tháng trước cách đây
__init__.py a07fc83bc8 chore: proper util for aphrodite version 7 tháng trước cách đây
_custom_ops.py ad24e74a99 feat: FP8 weight-only quantization support for Ampere GPUs 6 tháng trước cách đây
_ipex_ops.py 6a57861fca feat: initial XPU support via intel_extension_for_pytorch (#571) 7 tháng trước cách đây
py.typed 1c988a48b2 fix logging and add py.typed 1 năm trước cách đây
version.py 7e54c3916d chore: factor out epilogues from cutlass kernels 7 tháng trước cách đây