# Distillation Trainer

[![model badge](https://img.shields.io/badge/All_models-Distillation-blue)](https://huggingface.co/models?other=distillation,trl)

## Genel Bakış

Distillation Trainer, [Rishabh Agarwal](https://huggingface.co/agarwl), Nino Vieillard, Yongchao Zhou, [Piotr Stanczyk](https://huggingface.co/PiotrStanczyk), Sabela Ramos, [Matthieu Geist](https://huggingface.co/matthieu-geist) ve [Olivier Bachem](https://huggingface.co/bachem)'in [On-Policy Distillation of Language Models: Learning from Self-Generated Mistakes](https://huggingface.co/papers/2306.13649) makalesinde tanımlanan on-policy bilgi damıtmasını uygular.

Makalenin özeti aşağıdaki gibidir:

> Bilgi damıtma (KD), daha küçük bir öğrenci modeli eğiterek öğretmen modelini sıkıştırmak ve çıkarım maliyetini ile bellek ayak izini azaltmak için yaygın olarak kullanılır. Ancak, otoregresif sıra modelleri için mevcut KD yöntemleri, eğitim sırasında görülen çıktı sıraları ile çıkarım sırasında öğrenci tarafından üretilenler arasındaki dağılım uyumsuzluğundan muzdariptir. Bu sorunu ele almak için Genel Bilgi Damıtma (GKD)'yı tanıtıyoruz. Sadece sabit bir çıktı sırası setine güvenmek yerine GKD, bu sıralar üzerindeki öğretmen geri bildirimlerinden yararlanarak öğrenciyi kendi ürettiği çıktı sıraları üzerinde eğitir. Denetimli KD yaklaşımlarının aksine GKD, öğrencinin öğretmen dağılımını taklit edecek ifade gücüne sahip olmadığı durumlarda faydalı olabilecek, öğrenci ve öğretmen arasında alternatif kayıp fonksiyonları kullanma esnekliğini de sunar.

`DistillationTrainer`, daha küçük bir öğrenci modelini, öğrencinin kendi on-policy üretimleri üzerinde öğretmenin next-token dağılımıyla eşleşecek şekilde eğitir. Öğrencinin tamamlamalarını on-policy olarak (isteğe bağlı olarak vLLM destekli) üretir ve öğretmenin tam next-token dağılımını, öğretmenin yoğun dağılımının asla tam olarak belleğe yüklenmemesini sağlayan, bellek açısından verimli parçalı Jensen-Shannon kullancı kaybıyla eşleştirir.

Bu eğitimci [Carlos Miguel Patiño](https://huggingface.co/cmpatino) tarafından katkı sağlanmıştır.

Eğitimden bağımsızlaştırılmış üretim ve yerel ileri geçiş yerine HTTP üzerinden sunulan bir öğretmen modeline karşı puanlama yapan asenkron bir muadil için [`AsyncDistillationTrainer`](async_distillation_trainer) sınıfına bakın.

## Hızlı başlangıç

Bu örnek, damıtma (distillation) yöntemiyle bir modelin nasıl eğitileceğini göstermektedir. [UltraFeedback prompt veri seti](https://huggingface.co/datasets/trl-lib/ultrafeedback-prompt)ndeki promptlardan, [Qwen 2.5 1.5B Instruct öğretmen](https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct) modelinden [Qwen 2.5 0.5B Instruct model](https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct) damıtılmaktadır. Veri setindeki verileri burada görüntüleyebilirsiniz:

<iframe src="https://huggingface.co/datasets/trl-lib/ultrafeedback-prompt/embed/viewer/default/train?row=0" frameborder="0" width="100%" height="560px"
>

Aşağıda modeli eğitmek için kullanılan betik yer almaktadır.

```python
# train_distillation.py
from datasets import load_dataset
from trl import DistillationTrainer

dataset = load_dataset("trl-lib/ultrafeedback-prompt", split="train")

trainer = DistillationTrainer(
    model="Qwen/Qwen2.5-0.5B-Instruct",
    teacher_model="Qwen/Qwen2.5-1.5B-Instruct",
    train_dataset=dataset,
)
trainer.train()
```

Aşağıdaki komutu kullanarak betiği çalıştırın:

```bash
torchrun --nproc_per_node 8 train_distillation.py
```

## Damıtma yöntemine daha derinlemesine bakış

On-policy bilgi damıtma, öğrenciyi sabit bir öğretmen çıktısı kümesi yerine, öğrencinin kendisinin ürettiği tamamlamalarda öğretmenin bir sonraki token dağılımını yeniden üretmeye eğitir. Kendi üretimlerinden öğrenme, öğrencinin kendi hatalarını düzeltmesini sağlar ve bu genellikle off-policy damıtmadan daha iyi performans gösterir. Bu bölüm, pratikte nasıl çalıştığını, iki ana adımı kapsayacak şekilde açıklar: **tamamlamaları üretme** ve **kaybı hesaplama**.

### Tamamlamalar oluşturma

Her eğitim adımında, öğrenci, örneklenen istemler için bir tamamlama grubu üretir.

### Kaybın hesaplanması

Kayıp, üretilen tamamlama jetonları üzerinde öğrenci dağılımı \\( p_S \\) ile öğretmen dağılımı \\( p_T \\) arasındaki **genelleştirilmiş Jensen-Shannon ayrılığı (JSD)**'dır; `beta` ile interpolasyon yapılır ve şu şekilde tanımlanır:

$$ \mathcal{L}_\beta = \beta \, \mathbb{D}_{\mathrm{KL}}\!\left[ p_T \| p_M \right] + (1 - \beta) \, \mathbb{D}_{\mathrm{KL}}\!\left[ p_S \| p_M \right], \qquad p_M = (1 - \beta) \, p_S + \beta \, p_T, $$

burada  \\( p_M \\)  iki dağılımın  \\( \beta \\) -karışımıdır. Uç noktalar saf ayrıklara indirgenir:  `beta=0.0`  ileri KL  \\( \mathbb{D}_{\mathrm{KL}}\!\left[ p_T \| p_S \right] \\)  ve  `beta=1.0`  ters KL  \\( \mathbb{D}_{\mathrm{KL}}\!\left[ p_S \| p_T \right] \\)  verir.

Uygulamada, sözlük logitlerine projeksiyon ve ayrışma, parçalar halinde hesaplanır; bu nedenle tepe aktivasyon belleği, tam sözlük × dizi uzunluğu logit tensörüyle ölçeklenmez. [Bellek Kullanımını Azaltma](reducing_memory_usage) bölümüne bakın.

### Beklenen veri seti türü

Veri seti, [konuşmacı](dataset_formats#conversational) [sadece istem](dataset_formats#prompt-only) veri seti biçiminde formatlanmalıdır. Öğrenci, kendi tamamlamalarını politika üzerinde (on-policy) üretir, bu nedenle yalnızca istem gereklidir:

```python
{"prompt": [{"role": "user", "content": "What color is the sky?"}]}
```

## Kaydedilen metrikler

Eğitim ve değerlendirme sırasında aşağıdaki metrikleri kaydederiz:

- `num_tokens`: Hem istemler hem de tamamlamalar dahil olmak üzere şu ana kadar işlenen toplam token sayısı. Araçlar kullanıldığında yalnızca araç dışı tokenlar sayılır.
- `step_time`: Eğitim adımının (üretim dahil) ortalama süresi (saniye cinsinden).
- `completions/mean_length`: Üretilen tamamlamaların ortalama uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar sayılır.
- `completions/min_length`: Üretilen tamamlamaların (completions) minimum uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar (tokens) sayılır.
- `completions/max_length`: Üretilen tamamlamaların (completions) maksimum uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar (tokens) sayılır.
- `completions/mean_terminated_length`: EOS ile sonlanan üretilen tamamlamaların ortalama uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar sayılır.
- `completions/min_terminated_length`: EOS ile sonlanan üretilen tamamlamaların en küçük uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar sayılır.
- `completions/max_terminated_length`: EOS ile sonlanan üretilen tamamlamaların maksimum uzunluğu. Araçlar kullanıldığında yalnızca araç dışı jetonlar sayılır.
- `completions/clipped_ratio`: Kesilen (kırpılan) tamamlamaların oranı.
- `tools/call_frequency`: Üretim grubundaki tamamlama başına ortalama araç çağrısı sayısı. Yalnızca `tools` sağlandığında kaydedilir.
- `tools/failure_frequency`: Başarısız olan araç çağrılarının oranı (araç bulunamadı, bir istisna fırlatıldı veya çağrı türü desteklenmiyor). Hiçbir araç çağrılmadığında `0.0`'dır. Yalnızca `tools` sağlandığında kaydedilir.
- `entropy`: Üretilen tamamlamalar boyunca token tahminlerinin ortalama entropisi (nat cinsinden).

## Özelleştirme

### vLLM destekli üretim ile eğitimi hızlandırın

Eğitim sırasında on-policy yöntemler kullanıldığında, üretim genellikle ana darboğazdır. Üretimi hızlandırmak için LLM'ler için yüksek verimli, düşük gecikmeli bir çıkarım motoru olan [vLLM](https://github.com/vllm-project/vllm)'yi kullanabilirsiniz. Bunu etkinleştirmek için önce paketi şu şekilde yükleyin

```shell
pip install trl[vllm]
```

Eğitim sırasında vLLM'yi kullanmanın iki yolunu destekliyoruz: **colocate modu** ve **server modu**.

#### Seçenek 1: Colocate modu

Bu modda, vLLM eğitimci sürecinin içinde çalışır ve eğitim modeliyle GPU belleğini paylaşır. Bu, ayrı bir sunucu başlatılmasını önler ve GPU kullanımını artırabilir, ancak eğitim GPU'larında bellek çakışmasına yol açabilir. Bu, varsayılan moddur.

```python
from trl import DistillationConfig

training_args = DistillationConfig(
    ...,
    use_vllm=True,  # vllm_mode="colocate" by default
)
```

#### Seçenek 2: Sunucu modu

Bu modda, vLLM ayrı bir süreçte (ve ayrı GPU'lar kullanarak) çalışır ve eğitimciyle HTTP üzerinden iletişim kurar. Bu, çıkarım için ayrılmış GPU'larınız varsa idealdir.

1. **vLLM sunucusunu başlatın**:

   ```bash
   VLLM_SERVER_DEV_MODE=1 vllm serve <model_name> \
       --weight-transfer-config '{"backend": "nccl"}' \
       --logprobs-mode processed_logprobs \
       --max-logprobs -1
   ```

2. **Eğitim betiğinizde sunucu modunu etkinleştirin**:

   ```python
   from trl import DistillationConfig

   training_args = DistillationConfig(
       ...,
       use_vllm=True,
       vllm_mode="server",
   )
   ```

> [!WARNING]
> Sunucunun eğitimciyle farklı GPU'lar kullandığından emin olun, aksi takdirde NCCL hatalarıyla karşılaşabilirsiniz. Kullanılacak GPU'ları `CUDA_VISIBLE_DEVICES` ortam değişkeniyle belirleyebilirsiniz.

> [!TIP]
> Model boyutuna ve eğitim için genel GPU bellek gereksinimlerine bağlı olarak, düşük kullanım oranı veya bellek taşması hatalarını önlemek için [DistillationConfig](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationConfig) içindeki `vllm_gpu_memory_utilization` parametresini ayarlamanız gerekebilir.

Daha fazla bilgi için [vLLM ile eğitimi hızlandırma](speeding_up_training#vllm-for-fast-generation-in-online-methods) başlıklı bölümü inceleyin.

### PEFT ile adaptörler eğitin

🤗 PEFT kütüphanesiyle sıkı entegrasyon destekliyoruz; bu sayede tüm öğrenci modeli yerine adaptörleri eğitebilir ve Hub üzerinde paylaşabilirsiniz.

```python
from datasets import load_dataset
from trl import DistillationTrainer
from peft import LoraConfig

dataset = load_dataset("trl-lib/ultrafeedback-prompt", split="train")

trainer = DistillationTrainer(
    model="Qwen/Qwen2.5-0.5B-Instruct",
    teacher_model="Qwen/Qwen2.5-1.5B-Instruct",
    train_dataset=dataset,
    peft_config=LoraConfig(),
)
trainer.train()
```

> [!WARNING]
> Distillation kaybı `lm_head.weight` değerini doğrudan okur ve öğrenci omurgasını `PeftModel.forward()` üzerinden geçirmeden çalıştırır. Bu nedenle `lm_head` üzerindeki adaptörler (`target_modules` aracılığıyla) ve prompt öğrenme yöntemleri (PromptTuning, PrefixTuning, P-Tuning) sessizce yok sayılacakları için reddedilir. Başlığı eğitmek için bunun yerine `modules_to_save=["lm_head"]` kullanın.

## Ajan Eğitimi

[DistillationTrainer](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationTrainer), **ajan eğitimi**ni destekler: öğrenci, üretim sırasında araçları çağırır ve oluşan yörünge üzerinde damıtılır. Araç sonuç jetonları kayıptan maskelenir, böylece öğrenci yalnızca kendi ürettiği jetonlar üzerinde eğitilir.

### Araçlar

`tools` argümanı, ajanın kullanabileceği araçları tanımlayan Python fonksiyonlarının bir listesini bekler:

```python
from trl import DistillationTrainer

trainer = DistillationTrainer(
    tools=[tool1, tool2],
    ...,
)
```

Her araç, **tip ipuçlu argümanlara ve dönüş türlerine** sahip standart bir Python fonksiyonu olmalı ve amacını, argümanlarını ve dönüş değerini açıklayan bir **Google tarzı docstring** içermelidir. Daha fazla ayrıntı için [Araçları geçme kılavuzu](https://huggingface.co/docs/transformers/en/chat_extras#passing-tools)'na bakın.

> [!TIP]
> Araç çağrı döngüsü, sohbet şablonunun *önek koruyucu* olmasını gerektirir (bir araç mesajı eklenmesi, önceki mesajların nasıl görüntülendiğini değiştirmemelidir). Bilinen model aileleri (ör. Qwen3, DeepSeek-V3) için TRL, araçlar etkinleştirildiğinde otomatik olarak yamalı bir eğitim şablonu kullanır. Tam liste için [Sohbet Şablonları](chat_templates#training-templates) bölümüne bakın.

[DistillationConfig](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationConfig) içinde `max_tool_calling_iterations` parametresi, araç çağırma turlarının sayısını sınırlamak için kullanılır. Varsayılan olarak bir sınır yoktur ve üretim; öğrenci modelin araç çağrısı içermeyen bir yanıt turu üretmesi, tamamlamanın (tüm turlar ve araç sonuçları dahil) `max_completion_length` token'a ulaşması veya tam dizinin modelin maksimum uzunluğuna (`vllm_mode="colocate"` kullanıldığında `vllm_max_model_length`, aksi halde modelin `max_position_embeddings` değeri) ulaşması durumunda durur.

Örnek:

```python
from trl import DistillationTrainer

def multiply(a: int, b: int) -> int:
    """
    Multiplies two integers.

    Args:
        a: The first integer.
        b: The second integer.

    Returns:
        The product of the two integers.
    """
    return a * b

trainer = DistillationTrainer(
    tools=[multiply],
    ...,
)
```

> [!WARNING]
> Asenkron araçlar henüz desteklenmiyor — senkron işlevler geçirin.

### Çok Modlu Araç Yanıtları

Araçlar, içerik blokları listesini döndürerek metnin yanı sıra görselleri de geri döndürebilir. Bu, aracın görsel geri bildirim sağladığı VLM ajanı eğitiminde (ör. ekran görüntüleri, grafikler, kamera yakalamaları) kullanışlıdır.

```python
from PIL import Image

def take_screenshot() -> list:
    """
    Takes a screenshot of the current screen.

    Returns:
        The screenshot image with a description.
    """
    img = Image.open("screenshot.png")
    return [{"type": "image", "image": img}, {"type": "text", "text": "Here is the screenshot."}]
```

Dönen görüntüler, sohbetin içine otomatik olarak enjekte edilir ve sonraki üretim turları için VLM'ye iletilir.

## Görsel Dil Modellerinin Eğitimi

[DistillationTrainer](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationTrainer), hem metin hem de görüntü içeren çok modlu veri setlerinde Görsel-Dil Modellerinin (VLM) damıtılmasını destekler. Hem öğrenci hem de öğretmen olarak bir VLM iletin ve örnek başına tek görüntü için `image` sütunu veya örnek başına görüntü listesi için `images` sütunu içeren yalnızca istem (prompt) içeren bir veri seti sağlayın. Beklenen veri seti yapısı hakkında daha fazla bilgi için [Veri Seti Biçimi — Görsel veri setleri](dataset_formats#vision-datasets) bölümüne bakın.

Test edildi:

- **Gemma 3** — örn. `google/gemma-3-4b-it`
- **LLaVA-NeXT** — örn. `llava-hf/llava-v1.6-mistral-7b-hf`
- **Qwen2-VL** — örn. `Qwen/Qwen2-VL-2B-Instruct`
- **Qwen2.5-VL** — örn. `Qwen/Qwen2.5-VL-3B-Instruct`

> [!TIP]
> Tüm VLM'lerle uyumluluk garanti edilmemektedir. Bir modelin desteklenmesi gerektiğini düşünüyorsanız, GitHub'da bir sorun (issue) açmaktan çekinmeyin — ya da daha iyisi, gerekli değişiklikleri içeren bir çekme isteği (pull request) gönderin.

## Komut satırı arayüzü

Komut satırından distilasyon eğitimini başlatmak için [`trl distillation` CLI](clis) aracını kullanın. Standart `ModelConfig` bayrakları aracılığıyla tam eğitim ve LoRA'yı destekler.

```bash
# Full training:
trl distillation \
    --model_name_or_path Qwen/Qwen2.5-0.5B-Instruct \
    --teacher_model_name_or_path Qwen/Qwen2.5-1.5B-Instruct \
    --dataset_name trl-lib/ultrafeedback-prompt \
    --learning_rate 2e-5 \
    --per_device_train_batch_size 4 \
    --gradient_accumulation_steps 8 \
    --output_dir distilled-model \
    --num_train_epochs 1
```

```bash
# LoRA:
trl distillation \
    --model_name_or_path Qwen/Qwen2.5-0.5B-Instruct \
    --teacher_model_name_or_path Qwen/Qwen2.5-1.5B-Instruct \
    --dataset_name trl-lib/ultrafeedback-prompt \
    --learning_rate 2e-4 \
    --per_device_train_batch_size 4 \
    --gradient_accumulation_steps 8 \
    --output_dir distilled-model \
    --num_train_epochs 1 \
    --use_peft \
    --lora_r 64 \
    --lora_alpha 16
```

## DistillationTrainer[[trl.DistillationTrainer]]

#### trl.DistillationTrainer[[trl.DistillationTrainer]]

```python
trl.DistillationTrainer(model: str | PreTrainedModel | PeftModel, teacher_model: str | transformers.modeling_utils.PreTrainedModel | None = None, args: trl.trainer.distillation_config.DistillationConfig | None = None, train_dataset: datasets.arrow_dataset.Dataset | None = None, eval_dataset: datasets.arrow_dataset.Dataset | dict[str, datasets.arrow_dataset.Dataset] | None = None, processing_class: transformers.tokenization_utils_base.PreTrainedTokenizerBase | transformers.processing_utils.ProcessorMixin | None = None, callbacks: list[transformers.trainer_callback.TrainerCallback] | None = None, optimizers: tuple[typing.Optional[torch.optim.Optimizer], typing.Optional[torch.optim.lr_scheduler.LambdaLR]] = (None, None), quantization_config: BitsAndBytesConfig | None = None, peft_config: PeftConfig | None = None, tools: list[collections.abc.Callable] | None = None)
```

[Kaynak](https://github.com/huggingface/trl/blob/v1.18.0/trl/trainer/distillation_trainer.py#L220)

**Parametreler:**

model (`str` veya [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel) veya `PeftModel`) : Eğitilecek model. Şunlardan biri olabilir:  - huggingface.co üzerindeki bir model deposunda barındırılan önceden eğitilmiş bir modelin *model kimliği* olan bir dize veya [save_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel.save_pretrained) kullanılarak kaydedilmiş model ağırlıklarını içeren bir *dizin* yolu, örneğin `'./my_model_directory/'`. Model, `args.model_init_kwargs` içindeki anahtar kelime argümanlarıyla `<ModelArchitecture>.from_pretrained` (burada `<ModelArchitecture>`, model yapılandırmasından türetilir) kullanılarak yüklenir. `dtype`, `args.model_init_kwargs` içinde belirtilmediyse, varsayılan olarak `float32` olur. Bu, (Transformers v5'ten itibaren) dtype'ın model yapılandırmasından çıkarıldığı [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel.from_pretrained) işlevinden farklıdır. - Bir [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel) nesnesi. Yalnızca nedensel dil modelleri desteklenir. - Bir `PeftModel` nesnesi. Yalnızca nedensel dil modelleri desteklenir.

teacher_model (`str` veya [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel), *isteğe bağlı*) : Öğrencinin, bir sonraki token dağılımını eşleştirmek üzere eğitildiği öğretmen modeli. Bir *model kimliği* / yol olabilir (`model` gibi yüklenir, `args.teacher_model_init_kwargs` kullanılır) veya örneklenmiş bir [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel) olabilir. Öğrencinin sözlüğüyle aynı sözlüğü paylaşmalıdır. Öğretmeni başka bir yoldan (ör. uzak bir sunucu) sağlayan alt sınıflar tarafından atlanabilir.

args ([DistillationConfig](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationConfig), *isteğe bağlı*) : Bu trainer için yapılandırma. `None` ise varsayılan yapılandırma kullanılır.

train_dataset ([Dataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.Dataset) veya [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset)) : Eğitim için kullanılacak veri seti. `"prompt"` adlı bir sütun içermelidir. Veri setindeki ek sütunlar yok sayılır. Örneklerin biçimi şu iki seçenekten biri olabilir:  - [Standart](dataset_formats#standard): Her örnek düz metin içerir. - [Konuşma](dataset_formats#conversational): Her örnek yapılandırılmış mesajlar (ör. rol ve içerik) içerir.  `train_dataset` bir [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset) ise (ör. bir akış veri seti), uzunluğu çıkarılamadığı ve eğitim döngüsünü sınırlamak ile öğrenme oranı zamanlayıcısını yapılandırmak için toplam eğitim adım sayısının bilinmesi gerektiğinden, `max_steps` eğitim argümanlarında tanımlanmalıdır.

eval_dataset ([Dataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.Dataset), [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset), [DatasetDict](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.DatasetDict), [IterableDatasetDict](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDatasetDict) veya `dict[str, Dataset | IterableDataset]`) : Değerlendirme için kullanılacak veri seti. `train_dataset` ile aynı gereksinimleri karşılaması gerekir.

processing_class ([PreTrainedTokenizerBase](https://huggingface.co/docs/transformers/v5.23.0/en/internal/tokenization_utils#transformers.PreTrainedTokenizerBase), [ProcessorMixin](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/processors#transformers.ProcessorMixin), *isteğe bağlı*) : Verileri işlemek için kullanılan işleme sınıfı. Dolgu tarafı "left" olarak ayarlanmalıdır. `None` ise, işleme sınıfı [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoProcessor.from_pretrained) ile modelin adından yüklenir. Bir dolgu belirteci, `tokenizer.pad_token`, ayarlanmalıdır. İşleme sınıfı bir dolgu belirteci ayarlamadıysa, varsayılan olarak `tokenizer.eos_token` kullanılır.

callbacks ([TrainerCallback](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/callback#transformers.TrainerCallback) listesi, *isteğe bağlı*) : Eğitim döngüsünü özelleştirmek için geri çağrılar listesi. Bunlar, [burada](https://huggingface.co/docs/transformers/main_classes/callback) ayrıntıları verilen varsayılan geri çağrılar listesine eklenecektir. Kullanılan varsayılan geri çağrılardan birini kaldırmak istiyorsanız, [remove_callback](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.Trainer.remove_callback) yöntemini kullanın.

optimizers (`tuple[torch.optim.Optimizer | None, torch.optim.lr_scheduler.LambdaLR | None]`, *opsiyonel*, varsayılan `(None, None)`) : Kullanılacak optimizörün ve zamanlayıcının yer aldığı bir tuple. Modeliniz üzerinde bir `AdamW` örneği ve `args` tarafından kontrol edilen [get_linear_schedule_with_warmup](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/optimizer_schedules#transformers.get_linear_schedule_with_warmup) tarafından verilen bir zamanlayıcı olarak varsayılan değerlere sahip olacaktır.

quantization_config ([BitsAndBytesConfig](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/quantization#transformers.BitsAndBytesConfig), *isteğe bağlı*) : Model bir model tanımlayıcısından yüklenirken kullanılan kuantizasyon yapılandırması. QLoRA eğitimi için `peft_config` ile birleştirin. Model zaten örneklenmişse yok sayılır.

peft_config (`PeftConfig`, *isteğe bağlı*) : Modeli sarmak için kullanılan PEFT yapılandırması. `None` ise model sarılmaz.

tools (`Callable` listesi, *isteğe bağlı*) : Modelin üretim sırasında çağırabileceği çağrılabilir araç fonksiyonlarının listesi. Her araç, uygun şekilde tip ipucu eklenmiş argümanlara ve dönüş değerlerine sahip standart bir Python fonksiyonu olmalı ve amacını, argümanlarını ve dönüş değerini açıklayan bir Google tarzı docstring içermelidir. Daha fazla ayrıntı için bkz: https://huggingface.co/docs/transformers/en/chat_extras#passing-tools. Model, fonksiyonu nasıl çağıracağını belirlemek için fonksiyonun adını, tip ipuçlarını ve docstring'ini kullanır. Modelin sohbet şablonunun araç kullanımını desteklediğinden ve araç çağırma için ince ayar yapıldığından emin olun.

Bilgi damıtması için Trainer. Öğrenci, on-policy olarak eğitilir — tamamlamaları kendisi üretir — ve [On-Policy Distillation of Language Models](https://huggingface.co/papers/2306.13649) makalesinde tanıtıldığı gibi, `beta` ile ileri KL, ters KL ve JSD arasında interpolasyon yapan genelleştirilmiş Jensen-Shannon ayrılığı altında öğretmenin bir sonraki token dağılımına uymaya çalışır.

Örnek:

```python
>>> from trl import DistillationTrainer
>>> from datasets import load_dataset

>>> dataset = load_dataset("trl-lib/tldr", split="train")

>>> trainer = DistillationTrainer(
...     model="Qwen/Qwen2.5-0.5B-Instruct",
...     teacher_model="Qwen/Qwen2.5-1.5B-Instruct",
...     train_dataset=dataset,
... )
>>> trainer.train()
```

#### train[[trl.DistillationTrainer.train]]

```python
train(resume_from_checkpoint: str | bool | None = None, trial: optuna.Trial | dict[str, Any] | None = None, ignore_keys_for_eval: list[str] | None = None)
```

[Kaynak](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L1450)

**Parametreler:**

resume_from_checkpoint (`str` veya `bool`, *isteğe bağlı*) : `str` ise, önceki bir `Trainer` örneği tarafından kaydedilen bir kontrol noktasının yerel yolu. `bool` ise ve `True` değerine eşitse, önceki bir `Trainer` örneği tarafından *args.output_dir* içinde kaydedilen son kontrol noktasını yükler. Mevcut ise, eğitim burada yüklenen model/optimizer/scheduler durumlarından devam eder.

trial (`optuna.Trial` veya `dict[str, Any]`, *isteğe bağlı*) : Hiperparametre araması için deneme çalışması veya hiperparametre sözlüğü.

ignore_keys_for_eval (`list[str]`, *isteğe bağlı*) : Modelinizin çıktısında (bir sözlükse) eğitim sırasında değerlendirme için tahminleri toplarken yok sayılması gereken anahtarların listesi.

**Dönüş:** `~trainer_utils.TrainOutput`

Küresel adım sayısını, eğitim kaybını ve metrikleri içeren nesne.

Ana eğitim giriş noktası.

#### save_model[[trl.DistillationTrainer.save_model]]

```python
save_model(output_dir: str | None = None, _internal_call: bool = False)
```

[Kaynak](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L4077)

Modeli kaydeder, böylece `from_pretrained()` kullanarak yeniden yükleyebilirsiniz.

Yalnızca ana süreçten kaydedecektir.

#### push_to_hub[[trl.DistillationTrainer.push_to_hub]]

```python
push_to_hub(commit_message: str | None = 'End of training', blocking: bool = True, token: str | None = None, revision: str | None = None, private: bool | None = None, **kwargs)
```

[Kaynak](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L4337)

**Parametreler:**

commit_message (`str`, *isteğe bağlı*, varsayılan `"End of training"`) : İterlerken gönderilecek mesaj.

blocking (`bool`, *isteğe bağlı*, varsayılan `True`) : Fonksiyonun yalnızca `git push` işlemi tamamlandığında mı dönmeli.

token (`str`, *isteğe bağlı*, varsayılan `None`) : Trainer'ın orijinal argümanlarını üzerine yazma iznine sahip jeton.

revision (`str`, *isteğe bağlı*) : Taahhüt edilecek git revizyonu. Varsayılan olarak "main" dalının başıdır.

private (`bool`, *isteğe bağlı*) : Oluşturulduğunda depoyu özel yapılıp yapılmayacağını belirtir. Varsayılan olarak `args.hub_private_repo` değerini kullanır. Depo zaten mevcutsa etkisi yoktur.

kwargs (`dict[str, Any]`, *isteğe bağlı*) : `~Trainer.create_model_card`'e iletilen ek anahtar kelime argümanları.

**Dönüş:**

`blocking=False` ise modelin itildiği depoyun URL'si, `blocking=True` ise commit'in ilerlemesini izleyen bir `Future` nesnesi.

`self.model` ve `self.processing_class` öğelerini `self.args.hub_model_id` deposundaki 🤗 model hub'ına yükleyin.

## DistillationConfig[[trl.DistillationConfig]]

#### trl.DistillationConfig[[trl.DistillationConfig]]

```python
trl.DistillationConfig(output_dir: str | None = None, per_device_train_batch_size: int = 8, num_train_epochs: float = 3.0, max_steps: int = -1, learning_rate: float = 1e-06, lr_scheduler_type: transformers.trainer_utils.SchedulerType | str = 'linear', lr_scheduler_kwargs: dict | str | None = None, warmup_steps: float = 0, optim: transformers.training_args.OptimizerNames | str = 'adamw_torch_fused', optim_args: str | None = None, weight_decay: float = 0.0, adam_beta1: float = 0.9, adam_beta2: float = 0.999, adam_epsilon: float = 1e-08, optim_target_modules: None | str | list[str] = None, gradient_accumulation_steps: int = 1, average_tokens_across_devices: bool = True, max_grad_norm: float = 1.0, label_smoothing_factor: float = 0.0, bf16: bool | None = None, fp16: bool = False, bf16_full_eval: bool = False, fp16_full_eval: bool = False, tf32: bool | None = None, activation_checkpointing: bool | None = None, activation_checkpointing_kwargs: dict[str, typing.Any] | str | None = None, gradient_checkpointing: bool = True, gradient_checkpointing_kwargs: dict[str, typing.Any] | str | None = None, torch_compile: bool = False, torch_compile_backend: str | None = None, torch_compile_mode: str | None = None, use_liger_kernel: bool = False, liger_kernel_config: dict[str, bool] | None = None, use_cache: bool = False, neftune_noise_alpha: float | None = None, torch_empty_cache_steps: int | None = None, auto_find_batch_size: bool = False, logging_strategy: transformers.trainer_utils.IntervalStrategy | str = 'steps', logging_steps: float = 10, logging_first_step: bool = False, log_on_each_node: bool = True, logging_nan_inf_filter: bool = True, include_num_input_tokens_seen: str | bool = 'no', log_level: str = 'passive', log_level_replica: str = 'warning', disable_tqdm: bool | None = None, report_to: None | str | list[str] = 'none', run_name: str | None = None, project: str = 'huggingface', trackio_space_id: str | None = None, trackio_bucket_id: str | None = None, trackio_static_space_id: typing.Union[str, NoneType, typing.Literal[False]] = None, eval_strategy: transformers.trainer_utils.IntervalStrategy | str = 'no', eval_steps: float | None = None, eval_delay: float = 0, per_device_eval_batch_size: int = 8, prediction_loss_only: bool = False, eval_on_start: bool = False, eval_do_concat_batches: bool = True, eval_use_gather_object: bool = False, eval_accumulation_steps: int | None = None, include_for_metrics: list[str] = <factory>, batch_eval_metrics: bool = False, save_only_model: bool = False, save_strategy: transformers.trainer_utils.SaveStrategy | str = 'steps', save_steps: float = 500, save_on_each_node: bool = False, save_total_limit: int | None = None, enable_jit_checkpoint: bool = False, push_to_hub: bool = False, hub_token: str | None = None, hub_private_repo: bool | None = None, hub_model_id: str | None = None, hub_strategy: transformers.trainer_utils.HubStrategy | str = 'every_save', hub_always_push: bool = False, hub_revision: str | None = None, load_best_model_at_end: bool = False, metric_for_best_model: str | None = None, greater_is_better: bool | None = None, ignore_data_skip: bool = False, restore_callback_states_from_checkpoint: bool = False, full_determinism: bool = False, seed: int = 42, data_seed: int | None = None, use_cpu: bool = False, accelerator_config: dict | str | None = None, parallelism_config: accelerate.parallelism_config.ParallelismConfig | None = None, dataloader_drop_last: bool = False, dataloader_num_workers: int = 0, dataloader_pin_memory: bool = True, dataloader_persistent_workers: bool = False, dataloader_prefetch_factor: int | None = None, dataloader_multiprocessing_context: str | None = None, dataloader_in_order: bool = True, remove_unused_columns: bool | None = False, label_names: list[str] | None = None, train_sampling_strategy: str = 'random', length_column_name: str = 'length', ddp_find_unused_parameters: bool | None = None, ddp_bucket_cap_mb: int | None = None, ddp_broadcast_buffers: bool | None = None, ddp_static_graph: bool | None = None, ddp_backend: str | None = None, ddp_timeout: int = 1800, fsdp: str | None = None, fsdp_config: dict[str, typing.Any] | str | None = None, deepspeed: dict | str | None = None, debug: str | list[transformers.debug_utils.DebugOption] = '', skip_memory_metrics: bool = True, do_train: bool = False, do_eval: bool = False, do_predict: bool = False, resume_from_checkpoint: str | None = None, local_rank: int = -1, model_init_kwargs: dict[str, typing.Any] | str | None = None, trust_remote_code: bool = False, teacher_model_name_or_path: str | None = None, teacher_model_revision: str | None = None, teacher_model_init_kwargs: dict[str, typing.Any] | str | None = None, disable_dropout: bool = False, max_completion_length: int | None = 512, ds3_gather_for_generation: bool = True, shuffle_dataset: bool | None = True, pad_to_multiple_of: int | str | None = 'auto', temperature: float = 1.0, top_p: float = 1.0, top_k: int = 0, min_p: float | None = None, generation_kwargs: dict | str | None = None, chat_template_kwargs: dict | str | None = None, repetition_penalty: float = 1.0, cache_implementation: str | None = None, use_vllm: bool = False, vllm_mode: str = 'colocate', vllm_model_impl: str = 'vllm', vllm_enable_sleep_mode: bool = False, vllm_structured_outputs_regex: str | None = None, vllm_server_base_url: str | None = None, vllm_server_host: str = '0.0.0.0', vllm_server_port: int = 8000, vllm_server_timeout: float = 240.0, vllm_group_port: int = 51216, vllm_gpu_memory_utilization: float = 0.3, vllm_max_model_length: int | None = None, vllm_tensor_parallel_size: int = 1, beta: float = 1.0, max_tool_calling_iterations: int | None = None, log_completions: bool = False, num_completions_to_print: int | None = None, log_unique_prompts: bool = False)
```

[Kaynak](https://github.com/huggingface/trl/blob/v1.18.0/trl/trainer/distillation_config.py#L22)

**Modeli ve öğretmen modelini kontrol eden parametreler:**

model_init_kwargs (`str` veya `dict[str, Any]`, *isteğe bağlı*) : `model` argümanı eğitimcisi için bir dize olarak verildiğinde `AutoModelForCausalLM.from_pretrained` için kullanılan anahtar kelime argümanları. `revision` değeri, işleme sınıfı yüklenirken de kullanılır.

trust_remote_code (`bool`, *isteğe bağlı*, varsayılan `False`) : Hub'dan özel Python kodu içeren modellerin ve tokenizer'ların yüklenmesine izin verilip verilmeyeceğini belirtir. Hem öğrenci hem de öğretmen için [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoModelForCausalLM.from_pretrained) ve [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoTokenizer.from_pretrained) fonksiyonlarına iletilir.

teacher_model_name_or_path (`str`, *isteğe bağlı*) : Öğretmen modeli için model adı veya yolu. Öğretmen yerel olarak yüklendiğinde kullanılır.

teacher_model_revision (`str`, *isteğe bağlı*) : Öğretmen modelinin revizyonu (ör. dal adı, etiket veya commit hash'i).

teacher_model_init_kwargs (`str` veya `dict[str, Any]`, *isteğe bağlı*) : Öğretmen modelinin bir dizgeden örneklenmesi sırasında `AutoModelForCausalLM.from_pretrained` fonksiyonuna aktarılan anahtar kelime argümanları.

disable_dropout (`bool`, *isteğe bağlı*, varsayılan `False`) : Eğitim sırasında öğrenci modelinde dropout'un devre dışı bırakılıp bırakılmayacağı.

**Veri ön işleme sürecini kontrol eden parametreler:**

remove_unused_columns (`bool`, *isteğe bağlı*, varsayılan `False`) : Veri setinde yalnızca `"prompt"` sütununun korunup korunmayacağını belirtir. Eğitmen, ham prompt sütununu tüketir ve on-policy olarak tamamlamaları üretir, bu nedenle varsayılan değeri `False`'tır.

max_completion_length (`int` veya `None`, *isteğe bağlı*, varsayılan `512`) : On-policy üretim sırasında tamamlama başına üretilecek maksimum token sayısı.

ds3_gather_for_generation (`bool`, *isteğe bağlı*, varsayılan `True`) : Bu ayar DeepSpeed ZeRO-3 için geçerlidir. Etkinleştirilirse, üretim için politika model ağırlıkları toplanır ve üretim hızı artırılır. Ancak bu seçeneğin devre dışı bırakılması, tek bir GPU'nun VRAM kapasitesini aşan modellerin eğitimine olanak tanır; bunun bedeli ise daha yavaş bir üretimdir. Bu seçeneğin devre dışı bırakılması, vLLM üretimiyle uyumlu değildir.

shuffle_dataset (`bool`, *isteğe bağlı*, varsayılan `True`) : Eğitim veri setinin karıştırılıp karıştırılmayacağını belirtir.

pad_to_multiple_of (`int` veya `str`, *isteğe bağlı*, varsayılan `"auto"`) : Ayarlanırsa, prompt kimlikleri ve tamamlama kimlikleri bu değerin katına yastıklanır. `"auto"`, Neuron (AWS Trainium) üzerinde her giriş şekli için bir kez derlendiğinden 128'in katına yastıklar, başka yerlerde yastıklama yapmaz.

**Üretimi kontrol eden parametreler:**

temperature (`float`, *isteğe bağlı*, varsayılan `1.0`) : Üretim sırasında örneklemeyi ve damıtma kaybını hesaplamayı etkileyen sıcaklık. Daha yüksek değerler daha yumuşak olasılık dağılımları üretir.

top_p (`float`, *isteğe bağlı*, varsayılan `1.0`) : On-policy üretim için top-p (nucleus) örneklemesi parametresi.

top_k (`int`, *isteğe bağlı*, varsayılan `0`) : On-policy üretim için top-k örneklemesi parametresi. `0`, top-k filtrelemeyi devre dışı bırakır.

min_p (`float`, *isteğe bağlı*) : En olası token'ın olasılığıyla ölçeklenecek olan minimum token olasılığı. `0.0` ile `1.0` arasında bir değer olmalıdır. Tipik değerler `0.01-0.2` aralığındadır.

generation_kwargs (`dict[str, Any]`, *isteğe bağlı*) : Tamamlamalar örneklenirken [GenerationConfig](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/text_generation#transformers.GenerationConfig)'e (transformers kullanılıyorsa) veya `SamplingParams`'e (vLLM kullanılıyorsa) iletilecek ek anahtar kelime argümanları. Üretim davranışını daha da özelleştirmek için, örneğin `suppress_tokens`, `num_beams` gibi ayarları yapmak için kullanılabilir. Diğer üretim parametreleriyle (örneğin `min_p`, `top_p` vb.) çakışan anahtarlar içeriyorsa, bunları geçersiz kılar.

chat_template_kwargs (`dict[str, Any]`, *isteğe bağlı*) : Tamamlamalar oluşturulurken `apply_chat_template` fonksiyonuna iletilecek ek anahtar kelime argümanları.

repetition_penalty (`float`, *opsiyonel*, varsayılan `1.0`) : İstekte ve şu ana kadar üretilen metinde görünüp görünmediklerine göre yeni token'ları cezalandıran bir sayı. > `1.0` değerleri modelin yeni token'lar kullanmasını teşvik ederken, < `1.0` değerleri modelin token'ları tekrarlamasını teşvik eder.

cache_implementation (`str`, *isteğe bağlı*) : `use_vllm` `False` olarak ayarlandığında daha hızlı üretim için cache yönteminin uygulaması.

**vLLM tarafından desteklenen üretim hızlandırmasını kontrol eden parametreler:**

use_vllm (`bool`, *isteğe bağlı*, varsayılan `False`) : Öğrenci modelinden on-policy tamamlamaları üretmek için vLLM kullanılacak mı?

vllm_mode (`str`, *isteğe bağlı*, varsayılan `"colocate"`) : Öğrenci vLLM entegrasyonu için mod. `"server"` veya `"colocate"`.

vllm_model_impl (`str`, *isteğe bağlı*, varsayılan `"vllm"`) : vLLM için model uygulama arka ucu. `"vllm"` veya `"transformers"` kullanın.

vllm_enable_sleep_mode (`bool`, *isteğe bağlı*, varsayılan `False`) : Optimizer adımında öğrenci ağırlıklarını boşaltmak için vLLM uyku modunu etkinleştirir.

vllm_structured_outputs_regex (`str`, *isteğe bağlı*) : vLLM yapılandırılmış çıktıları için regex deseni.

**vLLM sunucusunu kontrol eden parametreler (yalnızca `vllm_mode` değeri `"server"` olduğunda kullanılır):**

vllm_server_base_url (`str`, *isteğe bağlı*) : Öğrenci vLLM sunucusu için temel URL. Sağlanırsa, `vllm_server_host` ve `vllm_server_port` yok sayılır.

vllm_server_host (`str`, *isteğe bağlı*, varsayılan `"0.0.0.0"`) : Öğrenci vLLM sunucusunun ana makinesi.

vllm_server_port (`int`, *isteğe bağlı*, varsayılan `8000`) : Öğrenci vLLM sunucusunun portu.

vllm_server_timeout (`float`, *isteğe bağlı*, varsayılan `240.0`) : Öğrenci vLLM sunucusuna bağlanma için zaman aşımı.

vllm_group_port (`int`, *isteğe bağlı*, varsayılan `51216`) : vLLM ağırlık güncelleme grubu (NCCL iletişimcisi) için port.

**Colocate vLLM çalıştırmayı kontrol eden parametreler (yalnızca `vllm_mode` `"colocate"` olduğunda kullanılır):**

vllm_gpu_memory_utilization (`float`, *isteğe bağlı*, varsayılan `0.3`) : Yerleşik öğrenci vLLM motoru için GPU bellek kullanımı.

vllm_max_model_length (`int`, *isteğe bağlı*) : Yerleşik vLLM motoru için maksimum model dizisi uzunluğu.

vllm_tensor_parallel_size (`int`, *isteğe bağlı*, varsayılan `1`) : Yerleşik öğrenci vLLM motoru için Tensor paralel boyutu.

**Eğitimi kontrol eden parametreler:**

beta (`float`, *opsiyonel*, varsayılan `1.0`) : Genel Jensen-Shannon Sapması kaybı için interpolasyon katsayısı. `0.0` olduğunda, kayıp ileri KL sapmasıdır. `1.0` olduğunda, kayıp ters KL sapmasıdır. `0.5` olduğunda, standart JSD'dir. GRPO'nun `beta` parametresinin (referans modele karşı KL ceza katsayısı) aksine, burada sapmanın kendisi seçilir; referans model KL cezası yoktur.

max_tool_calling_iterations (`int`, *isteğe bağlı*) : Bir ajan eğitilirken araç çağırma turlarının maksimum sayısı. `None` ise, bir sınır yoktur ve üretim; modelin araç çağrısı içermeyen bir yanıt turu oluşturması, tamamlamanın (tüm turlar ve araç sonuçları) `max_completion_length` jetona ulaşması veya tam dizinin modelin maksimum uzunluğuna (`vllm_mode="colocate"` için `vllm_max_model_length`, aksi halde modelin `max_position_embeddings`) ulaşması durumunda durur.

**Kayıtları kontrol eden parametreler:**

log_completions (`bool`, *isteğe bağlı*, varsayılan `False`) : Her `logging_steps` adımında (prompt, completion) çiftlerinin bir örneğinin günlüğe kaydedilip kaydedilmeyeceğini belirtir. `rich` yüklüyse, örnek yazdırılır. `wandb` ve/veya `trackio` günlüğü etkinleştirildiyse, `wandb` ve/veya `trackio` üzerinden günlüğe kaydedilir.

num_completions_to_print (`int`, *isteğe bağlı*) : `rich` ile yazdırılacak tamamlama sayısı. `None` ise tüm tamamlamalar günlüğe kaydedilir.

log_unique_prompts (`bool`, *isteğe bağlı*, varsayılan `False`) : Benzersiz istemlerin (prompts) kaydedilip kaydedilmeyeceğini belirtir. `True` ise yalnızca benzersiz istemler kaydedilir. `False` ise tüm istemler kaydedilir.

[DistillationTrainer](/docs/trl/v1.18.0/tr/distillation_trainer#trl.DistillationTrainer) için yapılandırma sınıfı.

Bilgi damıtmasına özgü parametrelerle [TrainingArguments](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.TrainingArguments) sınıfını genişletir. Gerekli tüm alanlar burada tanımlanmıştır.

[HfArgumentParser](https://huggingface.co/docs/transformers/v5.23.0/en/internal/trainer_utils#transformers.HfArgumentParser) kullanarak bu sınıfı, komut satırında belirtilebilen [argparse](https://docs.python.org/3/library/argparse#module-argparse) argümanlarına dönüştürebiliriz.

> [!NOTE]
> Bu parametrelere atanmış varsayılan değerler, [TrainingArguments](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.TrainingArguments) içindeki değerlerden farklıdır: - `logging_steps`: Varsayılan değeri `500` yerine `10`'dur. - `gradient_checkpointing`: Varsayılan değeri `False` yerine `True`'dur. - `bf16`: `fp16` ayarlanmadıysa varsayılan değeri `False` yerine `True`'dur. - `learning_rate`: Varsayılan değeri `5e-5` yerine `1e-6`'dir.

