# مدرب SFT

[![All_models-SFT-blue](https://img.shields.io/badge/All_models-SFT-blue)](https://huggingface.co/models?other=sft,trl) [![smol_course-Chapter_1-yellow](https://img.shields.io/badge/smol_course-Chapter_1-yellow)](https://github.com/huggingface/smol-course/tree/main/1_instruction_tuning)

## نظرة عامة

يدعم TRL مُدرّب الضبط الدقيق الإشرافي (SFT Trainer) لتدريب نماذج اللغة.

لا يدعم [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) بشكل أصلي نماذج الانتشار مثل DiffusionGemma، لكنه يمكن توسيعه بسهولة للقيام بذلك، راجع [مثال SFT block-diffusion](https://github.com/huggingface/trl/blob/main/examples/sft_diffusion_gemma/sft_diffusion_gemma.py).

تمت مساهمة [Younes Belkada](https://huggingface.co/ybelkada) في هذه طريقة ما بعد التدريب.

## البدء السريع

يُظهر هذا المثال كيفية تدريب نموذج لغوي باستخدام [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) من TRL. نقوم بتدريب نموذج [Qwen 3 0.6B](https://huggingface.co/Qwen/Qwen3-0.6B) على [مجموعة بيانات Capybara](https://huggingface.co/datasets/trl-lib/Capybara)، وهي مجموعة بيانات متعددة الأدوار مدمجة ومتنوعة تُستخدم لاختبار القدرات الاستدلالية والتعميم.

```python
from trl import SFTTrainer
from datasets import load_dataset

trainer = SFTTrainer(
    model="Qwen/Qwen3-0.6B",
    train_dataset=load_dataset("trl-lib/Capybara", split="train"),
)
trainer.train()
```

## نوع وتنسيق مجموعة البيانات المتوقع

يدعم SFT كلا من مجموعات بيانات [نمذجة اللغة](dataset_formats#language-modeling) ومجموعات بيانات [إكمال الموجه](dataset_formats#prompt-completion). ويتوافق [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) مع صيغ مجموعات البيانات [المعيارية](dataset_formats#standard) و[المحادثة](dataset_formats#conversational) على حد سواء. عند تزويده بمجموعة بيانات محادثة، سيطبّق المدرب قالب المحادثة على مجموعة البيانات تلقائيًا.

```python
# Standard language modeling
{"text": "The sky is blue."}

# Conversational language modeling
{"messages": [{"role": "user", "content": "What color is the sky?"},
              {"role": "assistant", "content": "It is blue."}]}

# Standard prompt-completion
{"prompt": "The sky is",
 "completion": " blue."}

# Conversational prompt-completion
{"prompt": [{"role": "user", "content": "What color is the sky?"}],
 "completion": [{"role": "assistant", "content": "It is blue."}]}
```

إذا لم يكن مجموعة بياناتك في أحد هذه الصيغ، يمكنك معالجتها مسبقًا لتحويلها إلى الصيغة المتوقعة. إليك مثال باستخدام مجموعة بيانات [FreedomIntelligence/medical-o1-reasoning-SFT](https://huggingface.co/datasets/FreedomIntelligence/medical-o1-reasoning-SFT):

```python
from datasets import load_dataset

dataset = load_dataset("FreedomIntelligence/medical-o1-reasoning-SFT", "en")

def preprocess_function(example):
    return {
        "prompt": [{"role": "user", "content": example["Question"]}],
        "completion": [
            {"role": "assistant", "content": f"<think>{example['Complex_CoT']}</think>{example['Response']}"}
        ],
    }

dataset = dataset.map(preprocess_function, remove_columns=["Question", "Response", "Complex_CoT"])
print(next(iter(dataset["train"])))
```

```json
{
    "prompt": [
        {
            "content": "Given the symptoms of sudden weakness in the left arm and leg, recent long-distance travel, and the presence of swollen and tender right lower leg, what specific cardiac abnormality is most likely to be found upon further evaluation that could explain these findings?",
            "role": "user",
        }
    ],
    "completion": [
        {
            "content": "<think>Okay, let's see what's going on here. We've got sudden weakness [...] clicks into place!</think>The specific cardiac abnormality most likely to be found in [...] the presence of a PFO facilitating a paradoxical embolism.",
            "role": "assistant",
        }
    ],
}
```

## النظر بعمق أكبر في طريقة SFT

يُعدّ الضبط الدقيق المُشرف (SFT) أبسط طريقة وأكثرها استخدامًا لتكييف نموذج لغوي مع مجموعة بيانات مستهدفة. يتم تدريب النموذج بطريقة مُشرفة بالكامل باستخدام أزواج من تسلسلات الإدخال والإخراج. الهدف هو تقليل الاحتمالية السالبة (NLL) للتسلسل المستهدف، مع اشتراطه على الإدخال.

تفصّل هذه القسم كيفية عمل SFT عملياً، مع تغطية الخطوات الرئيسية: **المعالجة المسبقة**، و**التجزئة**، و**حساب الخسارة**.

### المعالجة المسبقة والتجزئة

أثناء التدريب، يُتوقع أن يحتوي كل مثال على **حقل نص** أو زوج **(موجّه، إكمال)**، اعتماداً على صيغة مجموعة البيانات. لمزيد من التفاصيل حول الصيغ المتوقعة، راجع [صيغ مجموعات البيانات](dataset_formats). يقوم [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) بتجزئة كل مدخل باستخدام مُجزّئ النموذج. إذا تم تقديم الموجّه والإكمال بشكل منفصل، يتم دمجها قبل التجزئة.

### حساب الخسارة

![sft_figure](https://huggingface.co/datasets/trl-lib/documentation-images/resolve/main/sft_figure.png)

الخسارة المستخدمة في SFT هي **خسارة الانتروبيا المتبادلة على مستوى الرموز**، وتُعرَّف على النحو التالي:

$$ \mathcal{L}_{\text{SFT}}(\theta) = - \sum_{t=1}^{T} \log p_\theta(y_t \mid y_{<t}), $$

حيث \\( y_t \\) هو الرمز المستهدف عند خطوة الزمن \\( t \\)، ويُدرَّب النموذج على التنبؤ بالرمز التالي بناءً على الرموز السابقة. عملياً، يتم إخفاء رموس الحشو أثناء حساب الخسارة.

> [!TIP]
> يقترح البحث [On the Generalization of SFT: A Reinforcement Learning Perspective with Reward Rectification](https://huggingface.co/papers/2508.05629) دالة خسارة بديلة تُسمى **Dynamic Fine-Tuning (DFT)**، تهدف إلى تحسين التعميم من خلال تصحيح إشارة المكافأة. يمكن تفعيل هذه الطريقة عن طريق تعيين `loss_type="dft"` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig). لمزيد من التفاصيل، راجع [Paper Index - Dynamic Fine-Tuning](paper_index#on-the-generalization-of-sft-a-reinforcement-learning-perspective-with-reward-rectification).

### إزاحة التسميات وإخفاؤها

أثناء التدريب، يتم حساب الخسارة باستخدام **إزاحة رمز واحد**: حيث يُدرَّب النموذج على التنبؤ بكل رمز في التسلسل بناءً على جميع الرموز السابقة. وبشكل محدد، يتم إزاحة تسلسل الإدخال إلى اليمين بمقدار موضع واحد لتشكيل التسميات المستهدفة. يتم تجاهل رموس الحشو (إن وُجدت) في حساب الخسارة من خلال تطبيق فهرس تجاهل (الافتراضي: `-100`) على المواضع المقابلة. وهذا يضمن أن تركز الخسارة فقط على الرموز ذات المعنى وغير الحشو.

## المقاييس المسجّلة

أثناء التدريب والتقييم، نسجّل المقاييس التالية:

- `global_step`: إجمالي عدد خطوات المُحسِّن التي تم اتخاذها حتى الآن.
- `epoch`: رقم الحقبة الحالية، بناءً على تكرار مجموعة البيانات.
- `num_tokens`: إجمالي عدد الرموز التي تمت معالجتها حتى الآن.
- `loss`: متوسط خسارة الانتروبيا المتقاطعة المحسوبة على الرموز غير المقنّعة في فترة التسجيل الحالية.
- `entropy`: متوسط إنتروبيا توزيع الرموز المتوقعة من النموذج على الرموز غير المقنّعة.
- `aux_loss`: خسارة التوازن على الأحمال المساعدة لنموذج مزيج الخبراء، قبل أن تُضرب في `router_aux_loss_coef` وتُضاف إلى الخسارة. تُسجَّل فقط عندما يكون النموذج من نوع MoE و`router_aux_loss_coef` غير صفري.
- `mean_token_accuracy`: نسبة الرموز غير المقنّعة التي تتطابق فيها التنبؤ الأول (top-1) للنموذج مع الرمز الصحيح.
- `learning_rate`: معدل التعلم الحالي، والذي قد يتغير ديناميكيًا إذا تم استخدام مُجدوِل.
- `grad_norm`: معيار L2 للتدرجات، يُحسب قبل اقتطاع التدرجات.

## التخصيص

### تهيئة النموذج

يمكنك تمرير معاملات `from_pretrained()` مباشرة إلى [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig). على سبيل المثال، إذا كنت ترغب في تحميل نموذج بدقة مختلفة، على غرار

```python
model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-0.6B", dtype=torch.bfloat16)
```

يمكنك القيام بذلك عن طريق تمرير الحجة `model_init_kwargs={"dtype": torch.bfloat16}` إلى [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig).

```python
from trl import SFTConfig

training_args = SFTConfig(
    model_init_kwargs={"dtype": torch.bfloat16},
)
```

لاحظ أن جميع معاملات الكلمات المفتاحية لـ `from_pretrained()` مدعومة.

### التعبئة

يدعم [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) _تجميع الأمثلة_، حيث يتم تجميع عدة أمثلة في تسلسل إدخال واحد لزيادة كفاءة التدريب. لتفعيل التجميع، ما عليك سوى تمرير `packing=True` إلى منشئ [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig).

```python
training_args = SFTConfig(packing=True)
```

لمزيد من التفاصيل حول التعبئة، راجع [التعبئة](reducing_memory_usage#packing).

### التدريب على رسائل المساعد فقط

لتدريب النموذج على رسائل المساعد فقط، استخدم مجموعة بيانات [حوارية](dataset_formats#conversational) وقم بتعيين `assistant_only_loss=True` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig). يضمن هذا الإعداد أن يتم حساب الخسارة **فقط** على ردود المساعد، مع تجاهل رسائل المستخدم أو النظام.

```python
training_args = SFTConfig(assistant_only_loss=True)
```

![train_on_assistant](https://huggingface.co/datasets/trl-lib/documentation-images/resolve/main/train_on_assistant.png)

> [!WARNING]
> يتطلب هذا الميزة أن تتضمن قالب المحادثة كلمات `{% generation %}` و`{% endgeneration %}`. بالنسبة لعائلات النماذج المعروفة (مثل Qwen3)، يقوم TRL تلقائيًا بإصلاح القالب عند `assistant_only_loss=True`. راجع [قوالب المحادثة](chat_templates#training-templates) للحصول على القائمة الكاملة لقوالب التدريب المدمجة. أما بالنسبة للنماذج الأخرى، فتأكد من أن قالب المحادثة الخاص بك يتضمن هذه الكلمات. راجع [HuggingFaceTB/SmolLM3-3B](https://huggingface.co/HuggingFaceTB/SmolLM3-3B/blob/main/chat_template.jinja#L76-L82) كمثال.

> [!NOTE]
> مع [مجموعة بيانات الرؤية](#training-vision-language-models)، يتطلب فقدان المساعد فقط `transformers>=5.18.0` ومجموعة بيانات [نمذجة اللغة](dataset_formats#language-modeling) محادثة.

### التدريب على الإكمال فقط

لتدريب النموذج على الجزء المكتمل فقط، استخدم مجموعة بيانات [prompt-completion](dataset_formats#prompt-completion). افتراضيًا، يحسب المدرب الخسارة على رموز الجزء المكتمل فقط، متجاهلاً رموز الاستعلام. إذا كنت ترغب في التدريب على التسلسل الكامل، فاضبط `completion_only_loss=False` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig).

```python
from trl import SFTConfig, SFTTrainer
from datasets import load_dataset

# Load a prompt-completion dataset; loss is computed on the completion only by default
dataset = load_dataset("trl-lib/kto-mix-14k", split="train")

trainer = SFTTrainer(
    model="Qwen/Qwen2.5-0.5B-Instruct",
    args=SFTConfig(completion_only_loss=True),  # True by default for prompt-completion datasets
    train_dataset=dataset,
)
trainer.train()
```

![train_on_completion](https://huggingface.co/datasets/trl-lib/documentation-images/resolve/main/train_on_completion.png)

> [!TIP]
> التدريب على الإكمال فقط متوافق مع التدريب على رسائل المساعد فقط. في هذه الحالة، استخدم مجموعة بيانات [حوارية](dataset_formats#conversational) من نوع [موجّه-إكمال](dataset_formats#prompt-completion) وقم بتعيين `assistant_only_loss=True` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig).

### تدريب المحوِّلات باستخدام PEFT

ندعم التكامل الوثيق مع مكتبة 🤗 PEFT، مما يتيح لأي مستخدم تدريب المحوِّلات (adapters) ومشاركتها على Hub بسهولة، بدلاً من تدريب النموذج بأكمله.

```python
from datasets import load_dataset
from trl import SFTTrainer
from peft import LoraConfig

dataset = load_dataset("trl-lib/Capybara", split="train")

trainer = SFTTrainer(
    "Qwen/Qwen3-0.6B",
    train_dataset=dataset,
    peft_config=LoraConfig(),
)

trainer.train()
```

يمكنك أيضًا مواصلة تدريب `PeftModel`. لذلك، قم أولًا بتحميل `PeftModel` خارج [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) ثم مرّره مباشرةً إلى المدرب دون تمرير معامل `peft_config`.

```python
from datasets import load_dataset
from trl import SFTTrainer
from peft import AutoPeftModelForCausalLM

model = AutoPeftModelForCausalLM.from_pretrained("trl-lib/Qwen3-4B-LoRA", is_trainable=True)
dataset = load_dataset("trl-lib/Capybara", split="train")

trainer = SFTTrainer(
    model=model,
    train_dataset=dataset,
)

trainer.train()
```

> [!TIP]
> عند تدريب المُكيِّفات (adapters)، تستخدم عادةً معدل تعلّم أعلى (≈1e‑4) لأن المعاملات الجديدة فقط هي التي يتم تعلّمها.
>
> ```python
> SFTConfig(learning_rate=1e-4, ...)
> ```

### التجارب السريعة لتدريب الإشراف

RapidFire AI هو محرك تجارب مفتوح المصدر يعمل فوق TRL ويتيح لك إطلاق عدة تكوينات SFT في وقت واحد، حتى على وحدة معالجة رسومية واحدة. بدلاً من تجربة التكوينات بشكل تسلسلي، يتيح لك RapidFire **رؤية منحنيات التعلم الخاصة بها جميعاً في وقت أبكر، وإيقاف التشغيلات ذات الأداء الضعيف، ونسخ الواعدة منها بإعدادات جديدة أثناء التنفيذ** دون إعادة التشغيل. لمزيد من المعلومات، راجع [تكامل RapidFire AI](rapidfire_integration).

### التدريب باستخدام Unsloth

يُعدّ Unsloth إطار عمل مفتوح المصدر للضبط الدقيق والتعلم المعزز، يدرّب نماذج اللغة الكبيرة (مثل Llama وMistral وGemma وDeepSeek وغيرها) بسرعة تصل إلى ضعف السرعة مع تقليل ذاكرة VRAM بنسبة تصل إلى 70%، مع توفير سير عمل مبسّط ومتوافق مع Hugging Face للتدريب والتقييم والنشر. لمزيد من المعلومات، راجع [تكامل Unsloth](unsloth_integration).

## مثال على الضبط التعليمي

يُعلّم **التدريب على التعليمات** نموذج اللغة الأساسي على اتباع تعليمات المستخدم والمشاركة في المحادثات. ويتطلب ذلك:

1. **قالب المحادثة**: يحدد كيفية هيكلة المحادثات إلى تسلسلات نصية، بما في ذلك علامات الأدوار (المستخدم/المساعد)، الرموز الخاصة، وحدود الأدوار. اقرأ المزيد حول قوالب المحادثة في [قوالب المحادثة](https://huggingface.co/docs/transformers/chat_templating#templates).
2. **مجموعة بيانات محادثة**: تحتوي على أزواج تعليمات-استجابات

يُظهر هذا المثال كيفية تحويل نموذج [Qwen 3 0.6B Base](https://huggingface.co/Qwen/Qwen3-0.6B-Base) إلى نموذج يتبع التعليمات باستخدام [مجموعة بيانات Capybara](https://huggingface.co/datasets/trl-lib/Capybara) وقالب محادثة من [HuggingFaceTB/SmolLM3-3B](https://huggingface.co/HuggingFaceTB/SmolLM3-3B). يتولى مُدرّب SFT تلقائيًا معالجة تحديثات المُرمّز (tokenizer) وإعداد الرموز الخاصة.

```python
from trl import SFTConfig, SFTTrainer
from datasets import load_dataset

trainer = SFTTrainer(
    model="Qwen/Qwen3-0.6B-Base",
    args=SFTConfig(
        output_dir="Qwen3-0.6B-Instruct",
        chat_template_path="HuggingFaceTB/SmolLM3-3B",
    ),
    train_dataset=load_dataset("trl-lib/Capybara", split="train"),
)
trainer.train()
```

> [!WARNING]
> بعض النماذج الأساسية، مثل تلك من Qwen، تحتوي على قالب محادثة محدد مسبقًا في مُجزّئ النموذج. في هذه الحالات، لا يكون من الضروري تطبيق `clone_chat_template()`، حيث يتولى المُجزّئ بالفعل معالجة التنسيق. ومع ذلك، من الضروري مواءمة رمز نهاية الجملة (EOS) مع قالب المحادثة لضمان انتهاء استجابات النموذج بشكل صحيح. في هذه الحالات، حدد `eos_token` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig)؛ على سبيل المثال، بالنسبة إلى `Qwen/Qwen2.5-1.5B`، يجب تعيين `eos_token="<|im_end|>"`.

بعد التدريب، يمكن لنموذجك الآن اتباع التعليمات والمشاركة في المحادثات باستخدام قالب الدردشة الجديد الخاص به.

```python
>>> from transformers import pipeline
>>> pipe = pipeline("text-generation", model="Qwen3-0.6B-Instruct/checkpoint-5000")
>>> prompt = "<|im_start|>user\nWhat is the capital of France? Answer in one word.<|im_end|>\n<|im_start|>assistant\n"
>>> response = pipe(prompt)
>>> response[0]["generated_text"]
'<|im_start|>user\nWhat is the capital of France? Answer in one word.<|im_end|>\n<|im_start|>assistant\nThe capital of France is Paris.'
```

بديلًا عن ذلك، استخدم صيغة المحادثة المهيكلة (موصى به):

```python
>>> prompt = [{"role": "user", "content": "What is the capital of France? Answer in one word."}]
>>> response = pipe(prompt)
>>> response[0]["generated_text"]
[{'role': 'user', 'content': 'What is the capital of France? Answer in one word.'}, {'role': 'assistant', 'content': 'The capital of France is Paris.'}]
```

## استدعاء الأدوات مع SFT

يدعم [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) بشكل كامل ضبط نماذج تحتوي على قدرات _tool calling_. في هذه الحالة، يجب أن يتضمن كل مثال في مجموعة البيانات:

- رسائل المحادثة، بما في ذلك أي استدعاءات للأدوات (`tool_calls`) وردود الأدوات (رسائل بدور `tool`)
- قائمة الأدوات المتاحة في عمود `tools`، والتي تُقدَّم عادةً كمخططات JSON

لمزيد من التفاصيل حول بنية مجموعة البيانات المتوقعة، راجع قسم [Dataset Format — Tool Calling](dataset_formats#tool-calling).

## تدريب نماذج اللغة البصرية

يدعم [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) بشكل كامل تدريب نماذج الرؤية واللغة (VLMs). لتدريب نموذج VLM، قدّم مجموعة بيانات تحتوي إما على عمود `image` (صورة واحدة لكل عينة) أو عمود `images` (قائمة من الصور لكل عينة). لمزيد من المعلومات حول بنية مجموعة البيانات المتوقعة، راجع قسم [Dataset Format — Vision Dataset](dataset_formats#vision-dataset). مثال على مثل هذه المجموعة هو [LLaVA Instruct Mix](https://huggingface.co/datasets/trl-lib/llava-instruct-mix).

```python
from trl import SFTConfig, SFTTrainer
from datasets import load_dataset

trainer = SFTTrainer(
    model="Qwen/Qwen2.5-VL-3B-Instruct",
    args=SFTConfig(max_length=None),
    train_dataset=load_dataset("trl-lib/llava-instruct-mix", split="train"),
)
trainer.train()
```

> [!TIP]
> بالنسبة لنماذج الرؤية-اللغة (VLMs)، قد يؤدي التقصير إلى إزالة رموز الصور، مما يسبب أخطاء أثناء التدريب. لتجنب ذلك، اضبط `max_length=None` في [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig). يتيح هذا للنموذج معالجة طول التسلسل الكامل دون تقصير رموز الصور.
>
> ```python
> SFTConfig(max_length=None, ...)
> ```
>
> استخدم `max_length` فقط بعد أن تتأكد من أن القصّ لن يُزيل رموز الصور في كامل مجموعة البيانات.

## SFTTrainer[[trl.SFTTrainer]]

#### trl.SFTTrainer[[trl.SFTTrainer]]

```python
trl.SFTTrainer(model: str | PreTrainedModel | PeftModel, args: trl.trainer.sft_config.SFTConfig | transformers.training_args.TrainingArguments | None = None, data_collator: collections.abc.Callable[[list[typing.Any]], dict[str, typing.Any]] | None = None, train_dataset: datasets.arrow_dataset.Dataset | datasets.iterable_dataset.IterableDataset | None = None, eval_dataset: datasets.arrow_dataset.Dataset | datasets.iterable_dataset.IterableDataset | datasets.dataset_dict.DatasetDict | datasets.dataset_dict.IterableDatasetDict | dict[str, datasets.arrow_dataset.Dataset | datasets.iterable_dataset.IterableDataset] | None = None, processing_class: transformers.tokenization_utils_base.PreTrainedTokenizerBase | transformers.processing_utils.ProcessorMixin | None = None, compute_loss_func: collections.abc.Callable | None = None, compute_metrics: collections.abc.Callable[[transformers.trainer_utils.EvalPrediction], dict] | None = None, callbacks: list[transformers.trainer_callback.TrainerCallback] | None = None, optimizers: tuple[typing.Optional[torch.optim.Optimizer], typing.Optional[torch.optim.lr_scheduler.LambdaLR]] = (None, None), optimizer_cls_and_kwargs: tuple[type[torch.optim.Optimizer], dict[str, typing.Any]] | None = None, preprocess_logits_for_metrics: collections.abc.Callable[[torch.Tensor, torch.Tensor], torch.Tensor] | None = None, quantization_config: BitsAndBytesConfig | None = None, peft_config: PeftConfig | None = None, formatting_func: collections.abc.Callable[[dict], str] | None = None)
```

[المصدر](https://github.com/huggingface/trl/blob/v1.18.0/trl/trainer/sft_trainer.py#L517)

**المعاملات:**

model (`str` أو [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel) أو `PeftModel`) : النموذج المراد تدريبه. يمكن أن يكون: - نصًا، وهو *معرف النموذج* لنموذج مُدرَّب مسبقًا مستضاف داخل مستودع نماذج على huggingface.co، أو مسارًا إلى *مجلد* يحتوي على أوزان النموذج المحفوظة باستخدام [save_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel.save_pretrained)، مثل `'./my_model_directory/'`. يتم تحميل النموذج باستخدام `<ModelArchitecture>.from_pretrained` (حيث يُشتق `<ModelArchitecture>` من إعدادات النموذج) مع حُجج الكلمات المفتاحية الموجودة في `args.model_init_kwargs`. إذا لم يُحدد `dtype` في `args.model_init_kwargs`، فإن القيمة الافتراضية هي `float32`. وهذا يختلف عن [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel.from_pretrained)، حيث (منذ Transformers v5) يُستنتج نوع البيانات من إعدادات النموذج. - كائن [PreTrainedModel](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/model#transformers.PreTrainedModel). يتم دعم نماذج اللغة السببية فقط. - كائن `PeftModel`. يتم دعم نماذج اللغة السببية فقط.

args ([SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig)، *اختياري*) : إعدادات لهذا المدرب. إذا كانت `None`، يتم استخدام إعداد افتراضي.

data_collator (`DataCollator`، *اختياري*) : الدالة المستخدمة لتشكيل دفعة من قائمة عناصر مجموعة البيانات `train_dataset` أو `eval_dataset` بعد المعالجة. ستكون القيمة الافتراضية هي `DataCollatorForLanguageModeling`، أو `DataCollatorForVisionLanguageModeling` إذا كانت مجموعة البيانات تحتوي على صور.

train_dataset ([Dataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.Dataset) أو [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset)) : مجموعة البيانات المستخدمة للتدريب. يدعم هذا المدرب كلا النوعين: [نمذجة اللغة](#language-modeling) و[الموجّه-الإكمال](#prompt-completion). يمكن أن يكون تنسيق العينات إما: - [قياسي](dataset_formats#standard): تحتوي كل عينة على نص عادي. - [حواري](dataset_formats#conversational): تحتوي كل عينة على رسائل منظمة (مثل الدور والمحتوى).  يدعم المدرب أيضًا مجموعات البيانات المُجزّأة مسبقًا، والتي يتم التعرف عليها عبر عمود `input_ids` إلزامي. يُستخدم عمود `labels` الاختياري (`-100` على الرموز المستبعدة من الخسارة) كما هو إذا وُجد؛ وإلا تُبنى التسميات من العمودين الاختياريين `assistant_masks` / `completion_mask` (يتم دمجها ثم إسقاطها، `completion_mask` فقط عندما يكون `completion_only_loss=True`)، أو تُعتمد نسخة من `input_ids` افتراضيًا. يتم تقصير التسلسلات إلى `max_length` أثناء الإعداد. عند تعيين `skip_prepare_dataset=True`، يتم تخطي الإعداد ويُتوقع أن يتعامل المُجمِّع مع مجموعة البيانات كما هي.  عندما تكون `train_dataset` من نوع [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset) (مثل مجموعة بيانات البث)، يجب تعيين `max_steps` في حُجج التدريب، لأن طولها لا يمكن استنتاجه، ويُطلب إجمالي عدد خطوات التدريب لتحديد نطاق حلقة التدريب وإعداد مجدول معدل التعلم.

eval_dataset ([Dataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.Dataset) أو [IterableDataset](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDataset) أو [DatasetDict](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.DatasetDict) أو [IterableDatasetDict](https://huggingface.co/docs/datasets/v5.2.0/en/package_reference/main_classes#datasets.IterableDatasetDict) أو `dict[str, Dataset | IterableDataset]`) : مجموعة البيانات المستخدمة للتقييم. يجب أن تستوفي نفس المتطلبات التي تستوفيها `train_dataset`.

processing_class ([PreTrainedTokenizerBase](https://huggingface.co/docs/transformers/v5.23.0/en/internal/tokenization_utils#transformers.PreTrainedTokenizerBase)، [ProcessorMixin](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/processors#transformers.ProcessorMixin)، *اختياري*) : فئة المعالجة المستخدمة لمعالجة البيانات. إذا كانت `None`، يتم تحميل فئة المعالجة من اسم النموذج باستخدام [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoProcessor.from_pretrained). يجب تعيين رمز الحشو، `tokenizer.pad_token`. إذا لم تقم فئة المعالجة بتعيين رمز الحشو، سيتم استخدام `tokenizer.eos_token` كقيمة افتراضية.

compute_loss_func (`Callable`، *اختياري*) : دالة تقبل مخرجات النموذج، والوسوم، وعدد العناصر في الدفعة المتراكمة بالكامل (batch_size * gradient_accumulation_steps) وتعيد الخسارة. هذا الأمر غير مستحسن وسيتم إزالته في الإصدار v2.0.0: بدلاً من ذلك، قم بإنشاء فئة فرعية من [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) وتجاوز `compute_loss`.

compute_metrics (`Callable[[EvalPrediction], dict]`، *اختياري*) : الدالة التي ستُستخدم لحساب المقاييس أثناء التقييم. يجب أن تستقبل [EvalPrediction](https://huggingface.co/docs/transformers/v5.23.0/en/internal/trainer_utils#transformers.EvalPrediction) وتعيد قاموسًا من السلاسل النصية إلى قيم المقاييس. عند تمرير [SFTConfig](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTConfig) مع ضبط `batch_eval_metrics` على `True`، يجب أن تستقبل دالة `compute_metrics` الخاصة بك معاملًا من نوع `compute_result` من النوع المنطقي. سيُستدعى هذا بعد آخر دفعة تقييم للإشارة إلى أن الدالة بحاجة إلى حساب وإحصاءات الملخصات العامة وإعادتها بدلاً من تراكم إحصاءات مستوى الدفعة. القيم اللوجستية التي تستقبلها تُعاد حسابها عبر تمريرة أمامية إضافية. هذا الأمر غير مدعوم وسيُزال في الإصدار v2.0.0.

callbacks (قائمة من [TrainerCallback](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/callback#transformers.TrainerCallback)، *اختياري*) : قائمة من الاستدعاءات المخصصة لتخصيص حلقة التدريب. ستُضاف هذه الاستدعاءات إلى قائمة الاستدعاءات الافتراضية المفصّلة في [هنا](https://huggingface.co/docs/transformers/main_classes/callback). إذا كنت ترغب في إزالة أحد الاستدعاءات الافتراضية المستخدمة، فاستخدم طريقة [remove_callback](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.Trainer.remove_callback).

optimizers (`tuple[torch.optim.Optimizer | None, torch.optim.lr_scheduler.LambdaLR | None]`، *اختياري*، القيمة الافتراضية `(None, None)`) : مجموعة (tuple) تحتوي على المُحسِّن (optimizer) والمُجدوِل (scheduler) المطلوبين للاستخدام. ستكون القيمة الافتراضية هي نسخة من `AdamW` على نموذجك ومُجدوِل يُعطى بواسطة [get_linear_schedule_with_warmup](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/optimizer_schedules#transformers.get_linear_schedule_with_warmup) ويُتحكم به عبر `args`.

optimizer_cls_and_kwargs (`tuple[Type[torch.optim.Optimizer], Dict[str, Any]]`، *اختياري*) : مجموعة (tuple) تحتوي على فئة المُحسِّن (optimizer) ووسوم الكلمات المفتاحية (keyword arguments) للاستخدام. تتجاوز `optim` و`optim_args` في `args`. غير متوافقة مع وسيط `optimizers`. على عكس `optimizers`، يتجنب هذا الوسيط الحاجة إلى وضع معاملات النموذج على الأجهزة الصحيحة قبل تهيئة Trainer.

preprocess_logits_for_metrics (`Callable[[torch.Tensor, torch.Tensor], torch.Tensor]`، *اختياري*) : دالة تعالج القيم الاحتمالية (logits) مباشرةً قبل تخزينها في كل خطوة تقييم. يجب أن تستقبل مصفوفتين (tensors)، وهما القيم الاحتمالية والوسوم (labels)، وتعيد القيم الاحتمالية بعد معالجتها بالطريقة المطلوبة. ستظهر التعديلات التي تجريها هذه الدالة في التنبؤات التي تستلمها `compute_metrics`. لاحظ أن الوسوم (المعامل الثاني) ستكون `None` إذا لم تكن مجموعة البيانات تحتوي عليها.

quantization_config ([BitsAndBytesConfig](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/quantization#transformers.BitsAndBytesConfig)، *اختياري*) : إعدادات التكميم المستخدمة عند تحميل النموذج من معرّف النموذج. ادمجها مع `peft_config` لتدريب QLoRA. يتم تجاهلها إذا كان النموذج مُنشأً بالفعل.

peft_config (`PeftConfig`، *اختياري*) : إعدادات PEFT المستخدمة لتغليف النموذج. إذا كانت `None`، فلن يتم تغليف النموذج.

formatting_func (`Callable`، *اختياري*) : دالة التنسيق التي تُطبَّق على مجموعة البيانات قبل الترميز. تطبيق دالة التنسيق بشكل صريح يُحوِّل مجموعة البيانات إلى نوع [نمذجة اللغة](#language-modeling).

مدرّب لطريقة الضبط الدقيق الإشرافي (SFT).

هذا الصنف هو غلاف حول صنف [Trainer](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.Trainer) ويرث جميع خصائصه وطرائقه.

مثال:

```python
>>> from trl import SFTTrainer
>>> from datasets import load_dataset

>>> dataset = load_dataset("roneneldan/TinyStories", split="train[:1%]")

>>> trainer = SFTTrainer(
...     model="Qwen/Qwen2.5-0.5B-Instruct",
...     train_dataset=dataset,
... )
>>> trainer.train()
```

#### train[[trl.SFTTrainer.train]]

```python
train(resume_from_checkpoint: str | bool | None = None, trial: optuna.Trial | dict[str, Any] | None = None, ignore_keys_for_eval: list[str] | None = None)
```

[المصدر](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L1450)

**المعاملات:**

resume_from_checkpoint (`str` أو `bool`، *اختياري*) : إذا كان `str`، فهو المسار المحلي لنقطة تحقق محفوظة بواسطة نسخة سابقة من `Trainer`. إذا كان `bool` ويساوي `True`، يتم تحميل آخر نقطة تحقق في *args.output_dir* كما حفظتها نسخة سابقة من `Trainer`. إذا كانت موجودة، فسيستأنف التدريب من حالات النموذج/المُحسِّن/المُجدوِل المحمَّلة هنا.

trial (`optuna.Trial` أو `dict[str, Any]`، *اختياري*) : الجولة التجريبية أو قاموس معاملات الضبط للبحث في معاملات الضبط.

ignore_keys_for_eval (`list[str]`، *اختياري*) : قائمة بمفاتيح في مخرجات نموذجك (إذا كان قاموسًا) يجب تجاهلها عند جمع التوقعات للتقييم أثناء التدريب.

**يعيد:** `~trainer_utils.TrainOutput`

كائن يحتوي على عدد الخطوات العالمية، وخسارة التدريب، والمقاييس.

نقطة الدخول الرئيسية للتدريب.

#### save_model[[trl.SFTTrainer.save_model]]

```python
save_model(output_dir: str | None = None, _internal_call: bool = False)
```

[المصدر](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L4077)

سيحفظ النموذج، بحيث يمكنك إعادة تحميله باستخدام `from_pretrained()`.

سيتم الحفظ من العملية الرئيسية فقط.

#### push_to_hub[[trl.SFTTrainer.push_to_hub]]

```python
push_to_hub(commit_message: str | None = 'End of training', blocking: bool = True, token: str | None = None, revision: str | None = None, private: bool | None = None, **kwargs)
```

[المصدر](https://github.com/huggingface/trl/blob/v1.18.0/transformers/trainer.py#L4337)

**المعاملات:**

commit_message (`str`، *اختياري*، القيمة الافتراضية `"End of training"`) : الرسالة التي سيتم الالتزام بها أثناء الدفع.

blocking (`bool`، *اختياري*، القيمة الافتراضية `True`) : ما إذا كان ينبغي للوظيفة أن تُرجع القيمة فقط بعد اكتمال `git push`.

token (`str`، *اختياري*، القيمة الافتراضية `None`) : رمز (Token) يملك صلاحية الكتابة لتجاوز الحجج الأصلية الخاصة بـ Trainer.

revision (`str`، *اختياري*) : المراجعة (revision) في git التي سيتم الالتزام منها. الافتراضي هو رأس فرع "main".

private (`bool`, *اختياري*) : ما إذا كان يجب جعل المستودع خاصًا عند إنشائه. القيمة الافتراضية هي `args.hub_private_repo`. لا يؤثر هذا الإعداد إذا كان المستودع موجودًا مسبقًا.

kwargs (`dict[str, Any]`، *اختياري*) : حُجج إضافية تُمرَّر إلى `~Trainer.create_model_card`.

**يعيد:**

عنوان URL للمستودع الذي تم دفع النموذج إليه إذا كان `blocking=False`، أو كائن `Future` يتتبع تقدم عملية الالتزام إذا كان `blocking=True`.

ارفع `self.model` و`self.processing_class` إلى مركز النماذج 🤗 في المستودع `self.args.hub_model_id`.

## SFTConfig[[trl.SFTConfig]]

#### trl.SFTConfig[[trl.SFTConfig]]

```python
trl.SFTConfig(output_dir: str | None = None, per_device_train_batch_size: int = 8, num_train_epochs: float = 3.0, max_steps: int = -1, learning_rate: float = 2e-05, lr_scheduler_type: transformers.trainer_utils.SchedulerType | str = 'linear', lr_scheduler_kwargs: dict | str | None = None, warmup_steps: float = 0, optim: transformers.training_args.OptimizerNames | str = 'adamw_torch_fused', optim_args: str | None = None, weight_decay: float = 0.0, adam_beta1: float = 0.9, adam_beta2: float = 0.999, adam_epsilon: float = 1e-08, optim_target_modules: None | str | list[str] = None, gradient_accumulation_steps: int = 1, average_tokens_across_devices: bool = True, max_grad_norm: float = 1.0, label_smoothing_factor: float = 0.0, bf16: bool | None = None, fp16: bool = False, bf16_full_eval: bool = False, fp16_full_eval: bool = False, tf32: bool | None = None, activation_checkpointing: bool | None = None, activation_checkpointing_kwargs: dict[str, typing.Any] | str | None = None, gradient_checkpointing: bool = True, gradient_checkpointing_kwargs: dict[str, typing.Any] | str | None = None, torch_compile: bool = False, torch_compile_backend: str | None = None, torch_compile_mode: str | None = None, use_liger_kernel: bool = False, liger_kernel_config: dict[str, bool] | None = None, use_cache: bool = False, neftune_noise_alpha: float | None = None, torch_empty_cache_steps: int | None = None, auto_find_batch_size: bool = False, logging_strategy: transformers.trainer_utils.IntervalStrategy | str = 'steps', logging_steps: float = 10, logging_first_step: bool = False, log_on_each_node: bool = True, logging_nan_inf_filter: bool = True, include_num_input_tokens_seen: str | bool = 'no', log_level: str = 'passive', log_level_replica: str = 'warning', disable_tqdm: bool | None = None, report_to: None | str | list[str] = 'none', run_name: str | None = None, project: str = 'huggingface', trackio_space_id: str | None = None, trackio_bucket_id: str | None = None, trackio_static_space_id: typing.Union[str, NoneType, typing.Literal[False]] = None, eval_strategy: transformers.trainer_utils.IntervalStrategy | str = 'no', eval_steps: float | None = None, eval_delay: float = 0, per_device_eval_batch_size: int = 8, prediction_loss_only: bool = False, eval_on_start: bool = False, eval_do_concat_batches: bool = True, eval_use_gather_object: bool = False, eval_accumulation_steps: int | None = None, include_for_metrics: list[str] = <factory>, batch_eval_metrics: bool = False, save_only_model: bool = False, save_strategy: transformers.trainer_utils.SaveStrategy | str = 'steps', save_steps: float = 500, save_on_each_node: bool = False, save_total_limit: int | None = None, enable_jit_checkpoint: bool = False, push_to_hub: bool = False, hub_token: str | None = None, hub_private_repo: bool | None = None, hub_model_id: str | None = None, hub_strategy: transformers.trainer_utils.HubStrategy | str = 'every_save', hub_always_push: bool = False, hub_revision: str | None = None, load_best_model_at_end: bool = False, metric_for_best_model: str | None = None, greater_is_better: bool | None = None, ignore_data_skip: bool = False, restore_callback_states_from_checkpoint: bool = False, full_determinism: bool = False, seed: int = 42, data_seed: int | None = None, use_cpu: bool = False, accelerator_config: dict | str | None = None, parallelism_config: accelerate.parallelism_config.ParallelismConfig | None = None, dataloader_drop_last: bool = False, dataloader_num_workers: int = 0, dataloader_pin_memory: bool = True, dataloader_persistent_workers: bool = False, dataloader_prefetch_factor: int | None = None, dataloader_multiprocessing_context: str | None = None, dataloader_in_order: bool = True, remove_unused_columns: bool = True, label_names: list[str] | None = None, train_sampling_strategy: str = 'random', length_column_name: str = 'length', ddp_find_unused_parameters: bool | None = None, ddp_bucket_cap_mb: int | None = None, ddp_broadcast_buffers: bool | None = None, ddp_static_graph: bool | None = None, ddp_backend: str | None = None, ddp_timeout: int = 1800, fsdp: str | None = None, fsdp_config: dict[str, typing.Any] | str | None = None, deepspeed: dict | str | None = None, debug: str | list[transformers.debug_utils.DebugOption] = '', skip_memory_metrics: bool = True, do_train: bool = False, do_eval: bool = False, do_predict: bool = False, resume_from_checkpoint: str | None = None, local_rank: int = -1, model_init_kwargs: dict[str, typing.Any] | str | None = None, trust_remote_code: bool = False, router_aux_loss_coef: float | None = None, chat_template_path: str | None = None, dataset_text_field: str = 'text', dataset_kwargs: dict[str, typing.Any] | str | None = None, dataset_num_proc: int | None = None, eos_token: str | None = None, max_length: int | None = 1024, truncation_mode: str = 'keep_start', shuffle_dataset: bool = False, packing: bool = False, packing_strategy: str = 'bfd', padding_free: bool = False, pad_to_multiple_of: int | str | None = 'auto', eval_packing: bool | None = None, completion_only_loss: bool | None = None, assistant_only_loss: bool = False, loss_type: str = 'nll', activation_offloading: bool = False, pad_token: str | None = None)
```

[المصدر](https://github.com/huggingface/trl/blob/v1.18.0/trl/trainer/sft_config.py#L23)

**المعاملات التي تتحكم في النموذج:**

model_init_kwargs (`dict[str, Any]`، *اختياري*) : حُجج الكلمات المفتاحية لـ [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoModelForCausalLM.from_pretrained)، تُستخدم عندما يُقدَّم حُجج `model` الخاص بـ [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer) كنص. كما يُستخدم قيمة `revision` عند تحميل فئة المعالجة.

trust_remote_code (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان سيتم السماح بتحميل النماذج ومعالجات الرموز التي تتضمن أكواد بايثون مخصصة من Hub. يتم تمرير هذا إلى [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoModelForCausalLM.from_pretrained) و [from_pretrained](https://huggingface.co/docs/transformers/v5.23.0/en/model_doc/auto#transformers.AutoProcessor.from_pretrained).

router_aux_loss_coef (`float`, *اختياري*) : معامل خسارة التوازن بين الأحمال المساعدة لنماذج مزيج الخبراء (MoE)، تُضاف إلى خسارة التدريب بهذا الوزن. عند عدم تعيينه، يُستخدم القيمة المُعلنة في إعدادات النموذج. عيّن `0.0` لتعطيله. يفشل عند استخدامه مع نموذج غير MoE.

chat_template_path (`str`, *اختياري*) : إذا تم تحديده، يُضبط قالب المحادثة الخاص بالنموذج. يمكن أن يكون هذا المسار إلى مُجزِّئ (مجلد محلي أو نموذج على Hugging Face Hub) أو مسارًا مباشرًا إلى ملف قالب Jinja. عند استخدام ملف Jinja، يجب التأكد من إضافة الرموز الخاصة المشار إليها في القالب إلى المُجزِّئ، وتغيير حجم طبقة التضمين الخاصة بالنموذج وفقًا لذلك.

**المعاملات التي تتحكم في معالجة البيانات المسبقة:**

dataset_text_field (`str`، *اختياري*، القيمة الافتراضية `"text"`) : اسم العمود الذي يحتوي على بيانات النص في مجموعة البيانات.

dataset_kwargs (`dict[str, Any]`، *اختياري*) : قاموس لحجج اختيارية بالاسم لتجهيز مجموعة البيانات. المفتاح المدعوم الوحيد هو `skip_prepare_dataset`. عندما تحتوي مجموعة البيانات على صور، يُعامل `skip_prepare_dataset` تلقائيًا على أنه `True` بغض النظر عن القيمة المقدمة، لأن المعالجة المسبقة تتم على الفور.

dataset_num_proc (`int`, *اختياري*) : عدد العمليات المستخدمة لمعالجة مجموعة البيانات.

eos_token (`str`، *اختياري*) : الرمز المستخدم للإشارة إلى نهاية الدور أو التسلسل. إذا كان `None`، فإنه يتحول افتراضيًا إلى `processing_class.eos_token`.

max_length (`int` أو `None`، *اختياري*، القيمة الافتراضية `1024`) : الحد الأقصى لطول التسلسل المُرمَّز. تُقتطع التسلسلات الأطول من `max_length` من اليسار أو من اليمين اعتماداً على `truncation_mode`. إذا كانت `None`، فلا يُطبَّق أي اقتطاع. عند تفعيل التعبئة، يحدد هذا القيمة طول التسلسل.

truncation_mode (`str`، *اختياري*، القيمة الافتراضية `"keep_start"`) : وضع الاقتطاع المستخدم عندما تتجاوز التسلسل `max_length`. القيمة المدعومة الوحيدة هي `"keep_start"`. القيمة `"keep_end"` لم تعد مدعومة وسيتم إزالتها في الإصدار v2.0.0.

shuffle_dataset (`bool`، *اختياري*، الافتراضي `False`) : ما إذا كان يجب خلط مجموعة البيانات.

packing (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان سيتم تجميع تسلسلات متعددة في كتل ذات طول ثابت لتحسين الكفاءة الحسابية وتقليل الحشو. يستخدم `max_length` لتعريف طول التسلسل.

packing_strategy (`str`، *اختياري*، القيمة الافتراضية `"bfd"`) : استراتيجية لتعبئة التسلسلات. يمكن أن تكون `"bfd"` (أفضل ملاءمة تنازلية، تقصّ الفائض)، أو `"bfd_split"` (أفضل ملاءمة تنازلية، تقسّم تسلسلات الفائض)، أو `"wrapped"` (عدوانية، تقطع في منتصف التسلسل).

padding_free (`bool`, *اختياري*, القيمة الافتراضية `False`) : ما إذا كان سيتم تنفيذ عمليات المرور الأمامي دون حشو عن طريق تسطيح جميع التسلسلات في الدفعة إلى تسلسل مستمر واحد. يقلل هذا من استهلاك الذاكرة من خلال إزالة عبء الحشو. حاليًا، يُدعم هذا فقط مع FlashAttention 2 أو 3، والتي يمكنها التعامل بكفاءة مع بنية الدفعة المسطحة. عند تمكين التعبئة مع الاستراتيجية `"bfd"`، يتم تفعيل وضع بدون حشو، بغض النظر عن قيمة هذا المعامل.

pad_to_multiple_of (`int` أو `str`، *اختياري*، القيمة الافتراضية `"auto"`) : إذا تم تعيينه، فسيتم ملء التسلسلات حتى تكون مضاعفاً لهذه القيمة. `"auto"` يملأ حتى مضاعف 128 على Neuron (AWS Trainium)، الذي يُجمَّع مرة واحدة لكل شكل إدخال، ولا يملأ في أي مكان آخر.

eval_packing (`bool`، *اختياري*) : ما إذا كان سيتم حزم مجموعة بيانات التقييم. إذا كانت `None`، يتم استخدام نفس قيمة `packing`.

**المعاملات التي تتحكم في التدريب:**

completion_only_loss (`bool`, *اختياري*) : ما إذا كان يجب حساب الخسارة على جزء الإكمال من التسلسل فقط. إذا تم ضبطه على `True`، تُحسب الخسارة على الإكمال فقط، وهو ما يُدعم فقط لمجموعات بيانات [prompt-completion](#prompt-completion). إذا كان `False`، تُحسب الخسارة على التسلسل بأكمله. إذا كان `None` (الافتراضي)، يعتمد السلوك على مجموعة البيانات: تُحسب الخسارة على الإكمال لمجموعات بيانات [prompt-completion](#prompt-completion)، وعلى التسلسل الكامل لمجموعات بيانات [language modeling](#language-modeling).

assistant_only_loss (`bool`، *اختياري*، القيمة الافتراضية `False`) : ما إذا كان يجب حساب الخسارة على الجزء الخاص بالمساعد من التسلسل فقط. إذا تم ضبطه على `True`، تُحسب الخسارة على ردود المساعد فقط، وهو ما يُدعم فقط لمجموعات البيانات [المحادثية](#conversational). إذا كانت القيمة `False`، تُحسب الخسارة على التسلسل بأكمله.

loss_type (`str`، *اختياري*، القيمة الافتراضية `"nll"`) : نوع الدالة الخاسرة (loss) المستخدمة. القيم الممكنة هي: - `"nll"`: الاحتمالية السالبة اللوغاريتمية القياسية. - `"dft"`: الضبط الدقيق الديناميكي (Dynamic Fine-Tuning)، كما هو موصوف في [هذا الورقة](https://huggingface.co/papers/2508.05629). - `"chunked_nll"`: اسم مستعار غير مستخدم (deprecated) لـ `"nll"`، يحسب الخسارة بنفس الطريقة. سيتم إزالته في الإصدار v2.0.0.

activation_offloading (`bool`، *اختياري*، الافتراضي `False`) : ما إذا كان سيتم نقل التفعيلات إلى وحدة المعالجة المركزية (CPU).

**معاملات غير مستخدمة:**

pad_token :   تم إيقاف استخدام المعامل `pad_token` وسيتم حذفه في الإصدار v2.0.0. اضبط `tokenizer.pad_token` مباشرةً وقم بتمريره كـ `processing_class` إلى المدرب بدلاً من ذلك.

فئة التهيئة الخاصة بـ [SFTTrainer](/docs/trl/v1.18.0/ar/sft_trainer#trl.SFTTrainer).

تتضمن هذه الفئة فقط المعلمات الخاصة بتدريب SFT. للحصول على قائمة كاملة بحجج التدريب، يرجى الرجوع إلى توثيق [TrainingArguments](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.TrainingArguments). لاحظ أن القيم الافتراضية في هذه الفئة قد تختلف عن تلك الموجودة في [TrainingArguments](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.TrainingArguments).

باستخدام [HfArgumentParser](https://huggingface.co/docs/transformers/v5.23.0/en/internal/trainer_utils#transformers.HfArgumentParser) يمكننا تحويل هذه الفئة إلى حُجج [argparse](https://docs.python.org/3/library/argparse#module-argparse) يمكن تحديدها على سطر الأوامر.

> [!NOTE]
> تتميز هذه المعلمات بقيم افتراضية مختلفة عن [TrainingArguments](https://huggingface.co/docs/transformers/v5.23.0/en/main_classes/trainer#transformers.TrainingArguments): - `logging_steps`: القيمة الافتراضية هي `10` بدلاً من `500`. - `gradient_checkpointing`: القيمة الافتراضية هي `True` بدلاً من `False`. - `bf16`: القيمة الافتراضية هي `True` إذا لم يتم تعيين `fp16`، بدلاً من `False`. - `learning_rate`: القيمة الافتراضية هي `2e-5` بدلاً من `5e-5`.

