accelerate.md 911 B
Sebuah pustaka/library yang memungkinkan kode PyTorch yang sama dapat dijalankan secara menyebar. Informasi lebih lanjut: https://huggingface.co/docs/accelerate/index.
- Tampilkan informasi lingkungan proyek PyTorch saat ini:
accelerate env
- Buat file konfigurasi secara interaktif:
accelerate config
- Tampilkan prakiraan kapasitas memori GPU yang dibutuhkan untuk menjalankan model Hugging Face dengan tipe data yang berbeda:
accelerate estimate-memory {{nama/model}}
- Uji validitas sebuah file konfigurasi Accelerate:
accelerate test --config_file {{jalan/menuju/config.yaml}}
- Jalankan sebuah model PyTorch dengan Accelerate, menggunakan CPU saja:
accelerate launch {{jalan/menuju/script.py}} {{--cpu}}
- Jalankan model dengan Accelerate, menggunakan GPU dari 2 perangkat yang berbeda:
accelerate launch {{jalan/menuju/script.py}} --multi_gpu --num_machines 2