accelerate.md 825 B

accelerate

Una biblioteca que permite ejecutar el mismo código PyTorch en cualquier configuración distribuida. Más información: https://huggingface.co/docs/accelerate/index.

  • Imprime información del entorno:

accelerate env

  • Crea interactivamente un archivo de configuración:

accelerate config

  • Imprime el coste estimado en memoria de la GPU al ejecutar un modelo Hugging Face con distintos tipos de datos:

accelerate estimate-memory {{nombre/modelo}}

  • Prueba un archivo de configuración de Accelerate:

accelerate test --config_file {{ruta/a/config.yaml}}

  • Ejecuta un modelo en CPU con Accelerate:

accelerate launch {{ruta/a/script.py}} {{--cpu}}

  • Ejecuta un modelo en multi-GPU con Accelerate, con 2 máquinas:

accelerate launch {{ruta/a/script.py}} --multi_gpu --num_machines 2