Accelerate documentation
Çalıştırma süreci
Çalıştırma süreci
Dağıtık eğitim sistemleriyle çalışırken, süreçlerin GPU'lar arasında nasıl ve ne zaman yürütüleceğini yönetmek önemlidir. Bazı süreçler diğerlerinden daha hızlı tamamlanır ve bazı süreçler, diğerleri henüz tamamlanmadıysa başlatılmamalıdır. Accelerate, tüm cihazlar arasında her şeyin senkronize kalmasını sağlamak için süreçlerin ne zaman yürütüleceğini koordine etme araçları sunar.
Bu eğitim, bir süreci yalnızca bir makinede nasıl çalıştıracağınızı ve tüm süreçlerin belirli bir noktaya ulaşana kadar çalıştırmanın nasıl erteleneceğini öğretecektir.
Tek bir işlemde çalıştır
Bazı kodlar, belirli bir makinede yalnızca bir kez çalıştırılmalıdır; örneğin, bir günlük ifadesi yazdırma veya yerel ana süreçte yalnızca bir ilerleme çubuğu gösterme.
Bir kez çalıştırılması gereken kodu belirtmek için accelerator.is_local_main_process kullanmalısınız.
from tqdm.auto import tqdm
progress_bar = tqdm(range(args.max_train_steps), disable=not accelerator.is_local_main_process)Bir ifadeyi accelerator.is_local_main_process ile sarmalayabilirsiniz.
accelerator.is_local_main_processiçinde sarmalanmamış bağımsız
if accelerator.is_local_main_process:
print("Accelerate is the best")Sadece bir kez çalıştırılması gereken bir işlev için on_local_main_process() kullanın.
@accelerator.on_local_main_process
def do_my_thing():
"Something done once per server"
do_thing_once_per_server()Ayrıca, Accelerate’i, makine sayısından bağımsız olarak kodu tüm süreçlerde bir kez çalıştırmaya yönlendirebilirsiniz. Bu, nihai bir modeli Hub’a yüklerken işe yarar.
Tüm süreçler arasında yalnızca bir kez çalıştırılması gereken kodu belirtmek için accelerator.is_main_process kullanmalısınız.
if accelerator.is_main_process:
repo.push_to_hub()Tüm süreçler arasında yalnızca bir kez çalıştırılması gereken bir işlev için on_main_process() kullanın.
@accelerator.on_main_process
def do_my_thing():
"Something done once per server"
do_thing_once()Belirli bir işlemde çalıştır
Accelerate, yalnızca belirli bir işlemde veya yerel işlem dizininde çalıştırılması gereken işlevleri çalıştırmanıza da yardımcı olabilir.
Bir fonksiyonu belirli bir süreç üzerinde çalıştırmak için on_process() yöntemini kullanın ve çalıştırılacak süreç dizinini belirtin.
@accelerator.on_process(process_index=0)
def do_my_thing():
"Something done on process index 0"
do_thing_on_index_zero()on_local_process() yöntemini kullanın ve bir fonksiyonun çalıştırılacağı yerel süreç dizinini belirtin.
@accelerator.on_local_process(local_process_idx=0)
def do_my_thing():
"Something done on process index 0 on each server"
do_thing_on_index_zero_on_each_server()Yürütme erteleme
Betiklerinizi aynı anda birden fazla GPU üzerinde çalıştırdığınızda, bazı kodlar diğerlerinden daha hızlı çalışabilir. Bir sonraki talimat setini çalıştırmadan önce tüm süreçlerin belirli bir noktaya ulaşmasını beklemeniz gerekebilir. Örneğin, her sürecin eğitimle ilgili işlemlerini tamamladığından emin olmadan model kaydetmemelisiniz.
Bunu yapmak için kodunuza wait_for_everyone() ekleyin. Bu, önce biten tüm süreçlerin, kalan tüm süreçler aynı noktaya ulaşana kadar devam etmesini engeller (tek bir GPU veya CPU üzerinde çalışıyorsanız bunun bir etkisi yoktur).
accelerator.wait_for_everyone()