TRL documentation
قوالب المحادثة
قوالب المحادثة
قالب المحادثة هو مقتطف من Jinja2 يقوم بتنسيق الرسائل إلى النص الذي تم تدريب النموذج عليه. على سبيل المثال:
>>> from transformers import AutoTokenizer
>>> tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen2-0.5B-Instruct")
>>> tokenizer.chat_template
"{% for message in messages %}{% if loop.first and messages[0]['role'] != 'system' %}{{ '<|im_start|>system\nYou are a helpful assistant.<|im_end|>\n' }}{% endif %}{{'<|im_start|>' + message['role'] + '\n' + message['content'] + '<|im_end|>' + '\n'}}{% endfor %}{% if add_generation_prompt %}{{ '<|im_start|>assistant\n' }}{% endif %}"
>>> tokenizer.apply_chat_template([{"role": "user", "content": "Hi!"}], tokenize=False)
'<|im_start|>system\nYou are a helpful assistant.<|im_end|>\n<|im_start|>user\nHi!<|im_end|>\n'في معظم الحالات، لا داعي للقلق بشأن قوالب المحادثة: تُشحن النماذج مع قالبها الخاص إلى جانب مُجزّئ الرموز (tokenizer)، وتُطبّقه TRL نيابةً عنك. العملية بأكملها شفافة. لكن بعض وصفات TRL تعتمد على ميزات لا تتضمنها معظم القوالب المُشحنة:
- يتطلب التدريب على الإشراف (SFT) مع
assistant_only_loss=Trueوضع علامات{% generation %}/{% endgeneration %}حول مخرجات المساعد، حتى يتمكن قناع الخسارة من استهداف رموز المساعد فقط. - يتطلب GRPO مع استدعاءات الأدوات أن يكون القالب حافظًا للبداية: فلا يجب أن يؤدي إضافة رسالة أداة إلى تغيير طريقة عرض الرسائل السابقة.
تُوفّر TRL قوالب مُعدَّلة ضمن trl/chat_templates/ للعائلات الشائعة (Qwen، Llama، DeepSeek-V3، GPT-OSS، ...) وتُبدّلها تلقائيًا للنماذج المدعومة. أما بالنسبة لأي نموذج آخر، فستحتاج إلى تعديل قالبه بنفسك. يهدف بقية هذا الصفحة إلى حصر ما هو مُضمَّن.
عائلات النماذج المدعومة
تخزّن TRL نسخًا مرجعية من القوالب الأصلية حتى تتمكن من تحديد النماذج المدعومة عند التهيئة، واستبدال قالب التدريب عند الحاجة. العائلات التالية معترف بها: Cohere، وCohere2، وDeepSeek-V3 (بما في ذلك DeepSeek-R1 وDeepSeek-R1-0528 وDeepSeek-V3-0324)، وDeepSeek-R1-Distill، وDiffusionGemma، وGemma، وGemma3، وGemma4 (بما في ذلك Gemma-4-12B وGemma-4-26B-A4B وGemma-4-31B)، وGLM-4-MoE (4.5، 4.6، 4.7)، وGLM-5، وGLM-5.1، وGLM-5.2، وGLM-5.3، وGLM-5.3-Flash، وGPT-OSS، وIdefics3، وLFM2، وLFM2.5 (بما في ذلك LFM2.5-1.2B-Instruct وLFM2.5-2.6B وLFM2.5-24B-A2B)، وLFM2.5-VL (بما في ذلك LFM2.5-VL-450M)، وLlama 3 / 3.1 / 3.2، وLlava-Next، وMistral Large 4، وMistral Medium 3.5، وMuse Glimmer، وMuse Spark Open، وNemotron 3 (Nano، Super، Ultra)، وNemotron 3.5 Lightning، وPhi-3، وPhi-3.5، وQwen2-VL، وQwen2.5 (بما في ذلك نقاط التفتيش الأساسية)، وQwen2.5-VL، وQwen3 (بما في ذلك متغيرات Instruct-2507 وThinking-2507)، وQwen3-Coder (بما في ذلك Qwen3-Coder-Next)، وQwen3-VL، وQwen3.5، وQwen3.6، وQwen3.8، وSmolVLM (بما في ذلك SmolVLM2).
قوالب التدريب
قوالب مُرمَّمة تُصلح المشكلات الخاصة بالتدريب. يتم استبدالها عند التهيئة عند تمكين الأدوات (GRPO) أو عند تعيين assistant_only_loss=True (SFT).
cohere_training.jinja
قالب Cohere المُرقَّع. الفروقات مقارنةً بـcohere.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
cohere2_training.jinja
قالب Cohere2 المُرقَّع. الفروقات مقارنةً بـcohere2.jinja:
انقل <|END_OF_TURN_TOKEN|> المتأخر من بعد {% endif %} الخاص بتوجيه الدور إلى كل فرع من فروع الدور، ثم احطط فرع المساعد (<|START_RESPONSE|>...<|END_RESPONSE|><|END_OF_TURN_TOKEN|>) داخل {% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة المساعد فقط في SFT.
deepseek_r1_distill_training.jinja
قالب DeepSeek-R1-Distill المُرقَّع. الفروقات مقارنةً بـ deepseek_r1_distill.jinja:
- يزيل التقسيم
'</think>'على محتوى المساعد. حيث أن النسخة الأصلية تحذف كل شيء حتى</think>وشاملًا له، مما يؤدي إلى إزالة الاستدلال بصمت من هدف التدريب. - يغلّف مخرجات رسالة المساعد بعلامات
{% generation %}/{% endgeneration %}لفقد التدريب على المساعد فقط. تبقى العلامتان<|Assistant|>و<|tool▁outputs▁end|>التي تفتح دور المساعد خارج العلامات، لأن الموجّه ينتهي بهما بالفعل.
deepseekv3_training.jinja
قالب DeepSeek-V3 المُرقَّع. الفروقات مقارنةً بـ deepseekv3.jinja:
- يستخدم
| tojsonعلىtool['function']['arguments']بحيث يمكن تمريرargumentsكـdict(الصيغة الموثقة في توثيقات transformers). يستخدم القالب الأصلي دمجًا خامًا للنصوص، مما يؤدي إلى انهيار عند إدخال قيم من نوع dict. - يزيل التقسيم
'</think>'على محتوى المساعد، بحيث يتم عرض كتلة الاستدلال دائمًا. أما النسخة الأصلية فتُزيل كل شيء حتى</think>وشاملًا إياه، مما يؤدي إلى إزالة الاستدلال بصمت من هدف التدريب. - يغلّف مخرجات رسالة المساعد بعلامات
{% generation %}/{% endgeneration %}لفقد التدريب على المساعد فقط. تبقى العلامتان<|Assistant|>و<|tool▁outputs▁end|>التي تفتح دور المساعد خارج العلامات، لأن الموجّه ينتهي بهما بالفعل.
deepseekv3_v2_training.jinja
قالب DeepSeek-R1-0528 المُرقَّع. الفروقات مقارنةً بـ deepseekv3_v2.jinja:
- يستخدم
| tojsonعلىtool['function']['arguments']بحيث يمكن تمريرargumentsكـdict، كما فيdeepseekv3_training.jinja. - يزيل التقسيم
'</think>'على محتوى المساعد، بحيث يتم عرض كتلة الاستدلال دائمًا. أما النسخة الأصلية فتُزيل كل شيء حتى</think>وشاملًا إياه، مما يؤدي إلى إزالة الاستدلال بصمت من هدف التدريب. - يغلّف مخرجات رسالة المساعد بعلامات
{% generation %}/{% endgeneration %}لفقد التدريب على المساعد فقط. تبقى العلامة<|tool▁outputs▁end|>التي تفتح دور المساعد بعد مخرجات الأدوات خارج العلامات، لأن الموجّه ينتهي بها بالفعل.
deepseekv3_v3_training.jinja
قالب DeepSeek-V3 المُصلَح (المستخدم في deepseek-ai/DeepSeek-V3). نفس الفروقات الموجودة في deepseek_r1_distill_training.jinja، مطبَّقة على deepseekv3_v3.jinja: علامات {% generation %} / {% endgeneration %} حول مخرجات رسالة المساعد لحساب خسارة SFT الخاصة بالمساعد فقط، مع إبقاء <|Assistant|> و <|tool▁outputs▁end|> التي تفتح دور المساعد خارج هذه العلامات.
deepseekv3_v4_training.jinja
قالب DeepSeek-V3-0324 المُصلح (المستخدم في deepseek-ai/DeepSeek-V3-0324). نفس الفروقات الموجودة في deepseekv3_v2_training.jinja، مطبقة على deepseekv3_v4.jinja: | tojson على حُجج استدعاء الأدوات، وعلامات {% generation %} / {% endgeneration %} حول مخرجات المساعد.
diffusion_gemma_training.jinja
قالب DiffusionGemma المُرقَّع. الفروقات مقارنةً بـdiffusion_gemma.jinja:
قم بتغليف الأجزاء من دورة النموذج التي يصدرها النموذج (قناة التفكير، استدعاءات الأدوات، المحتوى، والرمز الختامي <turn|>) باستخدام {% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بمساعد فقط. أما استجابات الأدوات المضمنة في الدورة فتأتي من البيئة وتبقى خارج كتلة التوليد.
gemma_training.jinja
قالب Gemma المُصلَح (مشترك بين Gemma وGemma2، حيث يأتيان بقالبَي دردشة متطابقين). الفروقات مقارنةً بـgemma.jinja:
قسّم مخرجات المساعد الموحّد بحيث يكون الترويسة <start_of_turn>model\n (إشارة تلميح، وليست مولّدة من النموذج) خارج كتلة التوليد، وغلّف محتوى المساعد بعلامات {% generation %} / {% endgeneration %} لفقد المساعد فقط في التدريب الإشرافي.
gemma3_training.jinja
قالب Gemma 3 المُصلَح. نفس الاختلاف الموجود في gemma_training.jinja (تقسيم سطر المخرجات الموحّد إلى فروع خاصة بكل دور بحيث يكون تلميح <start_of_turn>model\n خارج كتلة التوليد، وتغليف محتوى المساعد بـ {% generation %} / {% endgeneration %})، مطبّقًا على قالب Gemma 3 الأساسي الذي يدعم رسائل النظام وكتل المحتوى متعددة الوسائط.
glm4moe_training.jinja
قالب GLM-4-MoE المُرقَّع. الفروقات مقارنةً بـglm4moe.jinja:
أغلق كل دور مساعد داخل كتلة التوليد بعلامة الدور التي تفتح الدور التالي (<|observation|> بعد استدعاءات الأدوات، وإلا <|user|> أو <|system|>). لا يحتوي قالب GLM الأصلي على رمز نهاية الدور: يُنهى الدور بعلامة دور الرسالة التالية، ويعلن GLM عن <|user|> و<|observation|> كرموز نهاية التسلسل، لذا يضيف قالب التدريب العلامة إلى دور المساعد للحفاظ على رمز التوقف داخل قناع الخسارة، ولا تعرض الرسالة التالية علامتها الخاصة بعد ذلك.
قم بتغليف مخرجات رسالة المساعد (بما في ذلك كتلة التفكير واستدعاءات الأدوات) بعلامات {% generation %} / {% endgeneration %} لحساب خسارة خاصة بالمساعد فقط في تدريب SFT. عند تعيين enable_thinking=False، تبقى كتلة التفكير خارج العلامات، لأن موجه التوليد ينتهي بالفعل بـ \n<think></think> الفارغ.
qwen3_training.jinja
قالب Qwen3 المُرقَّع. الفروقات مقارنةً بـqwen3.jinja:
تأكد دائمًا من تضمين كتلة التفكير بغضّ النظر عن موضع الرسالة. يتجاهل الأصل تضمينها بشكل شرطي بناءً على loop.last، مما يغيّر طريقة عرض المساعد عند إضافة رسالة أداة، مما يكسر الحفاظ على البادئة:
- {%- if loop.index0 > ns.last_query_index %}
- {%- if loop.last or (not loop.last and reasoning_content) %}
- {{- '<|im_start|>' + message.role + '\n<think>\n' + reasoning_content.strip('\n') + '\n</think>\n\n' + content.lstrip('\n') }}
- {%- else %}
- {{- '<|im_start|>' + message.role + '\n' + content }}
- {%- endif %}
- {%- else %}
- {{- '<|im_start|>' + message.role + '\n' + content }}
- {%- endif %}
+ {{- '<|im_start|>' + message.role + '\n<think>\n' + reasoning_content.strip('\n') + '\n</think>\n\n' + content.lstrip('\n') }}قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. يبقى الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد (<think>\n\n</think>\n\n عند enable_thinking=False) خارج العلامات، لأن الموجه ينتهي به بالفعل. تقوم قوالب تدريب Qwen3 الأخرى بالشيء نفسه مع ما يملؤه مسبقًا موجه التوليد الخاص بها، مثل <think>\n.
qwen3_v2_training.jinja
قالب Qwen3 الأصلي المُرقَّع (المُرفق مع نقاط التفتيش الخاصة بـ Qwen3 قبل مايو 2025، وما زال كذلك مع نقاط التفتيش الأساسية لـ Qwen3). نفس الفارق الموجود في qwen3_training.jinja، مطبَّقًا على qwen3_v2.jinja.
qwen3_vl_training.jinja
قالب Qwen3-VL المُرقَّع. الفروقات مقارنةً بـqwen3_vl.jinja:
قم بتغليف مخرجات رسالة المساعد (كلا من content وtool_calls) باستخدام {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
gptoss_training.jinja
قالب GPT-OSS المُرقَّع. الفروقات مقارنةً بـgptoss.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. يبقى <|start|>assistant الذي يفتتح الجولة خارج العلامات، لأن موجه التوليد ينتهي به بالفعل.
idefics3_training.jinja
قالب Idefics3 المُرقَّع. الفروقات مقارنةً بـidefics3.jinja:
قسّم رسالة المساعد إلى فرع مستقل بحيث تحيط علامات {% generation %} / {% endgeneration %} بمحتوى المساعد. هذا يتيح لـ return_assistant_tokens_mask=True إنتاج أقنعة صحيحة لخسارة SFT الخاصة بالمساعد فقط.
lfm2_training.jinja
قالب LFM2 المُرقَّع. الفروقات مقارنةً بـlfm2.jinja:
قسّم سطر مخرجات الرسالة الموحّدة إلى فروع مخصصة لكل دور، بحيث يكون تلميح <|im_start|>assistant\n خارج كتلة التوليد (لأنه لا يُنتجه النموذج)، بينما يكون محتوى المساعد و<|im_end|>\n (الذي يجب على النموذج أن يتعلم إنتاجه والتوقف عنده) داخلها. غلّف محتوى المساعد بـ{% generation %} / {% endgeneration %} حتى يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
lfm2_v2_training.jinja
قالب LFM2 المُرقَّع، نسخة لاحقة. الفروقات مقارنةً بـlfm2_v2.jinja:
غلّف مخرجات المساعد بـ {% generation %} / {% endgeneration %}، في كلتا الفرعين: الفرع الذي يعرض tool_calls والفرع الخاص بالمحتوى العادي، بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. يبقى تلميح <|im_start|>assistant\n خارج كتلة التوليد، بينما يقع المحتوى واستدعاءات الأدوات و <|im_end|>\n داخلها.
llama3_training.jinja
قالب Llama 3 المُصلَح. الفروقات مقارنةً بـllama3.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
llava_next_training.jinja
قالب Llava-Next المُرقَّع. الفروقات مقارنةً بـllava_next.jinja:
- يغلّف مخرجات رسائل المساعد بعلامات
{% generation %}/{% endgeneration %}لحساب خسارة خاصة بالمساعد فقط في التدريب الإشرافي. - يحافظ على المساحة التي تلي
</s>خارج كتلة التوليد. يقوم مُجزِّئ الرموز بدمجها مع أول رمز في الدور التالي (▁[)، والذي كان سيُخفى كإخراج للمساعد، مما كان سيخفي رمز التوقف</s>عن نهاية المدى المخفي.
mistral_large_4_training.jinja
قالب Mistral Large 4 المُرقَّع. الفروقات مقارنةً بـmistral_large_4.jinja: نفس التغيير المطبَّق في mistral_medium_3_5_training.jinja، حيث يتم تغليف دور المساعد (المحتوى، استدعاءات الأدوات، ورمز نهاية الدور) بـ{% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
mistral_medium_3_5_training.jinja
قالب Mistral Medium 3.5 المُصلَح. الفروقات مقارنةً بـ mistral_medium_3_5.jinja: النسخة الأصلية تحافظ على البادئة مسبقًا، لذا التغيير الوحيد هو تغليف دور المساعد (المحتوى، استدعاءات الأدوات، ورمز نهاية الدور) بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
muse_glimmer_training.jinja
قالب Muse Glimmer المُرقَّع. الفروقات مقارنةً بـmuse_glimmer.jinja: غلّف فرع المساعد بأكمله — أي قناة ATEM للدورة — بـ{% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. يبقى <|start|>assistant الذي يفتتح الدورة خارج العلامات، لأن موجه التوليد ينتهي به بالفعل.
muse_spark_training.jinja
قالب Muse Spark Open المُرقَّع. الفروقات مقارنةً بـmuse_spark.jinja: علامات {% generation %} الأصلية تغطي أيضاً <|start|>assistant الذي يفتتح الدور، بينما ينتهي موجه التوليد بالفعل به. يقوم قالب التدريب بإصداره قبل العلامات، بحيث لا يُدرَّب return_assistant_tokens_mask=True عليه. النص المُصيَّر يبقى دون تغيير.
nemotron_3_nano_training.jinja
قالب Nemotron Nano المُرقَّع. الفروقات مقارنةً بـnemotron_3_nano.jinja: النسخة الأصلية تحافظ على البادئة مسبقًا، لذا فإن التغيير يتمثل في تغليف مخرجات رسالة المساعد بـ{% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد (<think>\n، أو <think></think> عند enable_thinking=False) يبقى خارج العلامات، لأن الموجه ينتهي به بالفعل.
nemotron_3_super_training.jinja
قالب Nemotron Super المُرقَّع. الفروقات مقارنةً بـnemotron_3_super.jinja: مماثل لـnemotron_3_nano_training.jinja — فالنسخة الأصلية تحافظ على البادئة بالفعل، لذا فإن التغيير يتمثل في تغليف مخرجات رسائل المساعد بـ{% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد (<think>\n، أو <think></think> عند enable_thinking=False) يبقى خارج العلامات، لأن الموجه ينتهي به بالفعل.
nemotron_3_ultra_training.jinja
قالب Nemotron Ultra المُصلَح. الفروقات مقارنةً بـ nemotron_3_ultra.jinja: هي نفسها الموجودة في nemotron_3_nano_training.jinja — فالنسخة الأصلية تحافظ على البادئة مسبقًا، لذا فإن التغيير يتمثل في تغليف مخرجات رسائل المساعد بـ {% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد (<think>\n، أو <think></think> عند enable_thinking=False) يبقى خارج العلامات، لأن الموجه ينتهي به بالفعل.
nemotron_3_5_lightning_training.jinja
قالب Nemotron 3.5 Lightning المُصلَح. الفروقات مقارنةً بـ nemotron_3_5_lightning.jinja: هي نفسها الموجودة في nemotron_3_nano_training.jinja — فالنسخة الأصلية تحافظ على البادئة مسبقًا، لذا فإن التغيير يتمثل في تغليف مخرجات رسائل المساعد بـ {% generation %} / {% endgeneration %} بحيث تنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط. الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد (<think>\n، أو <think></think> عند تعيين enable_thinking=False) يبقى خارج العلامات، لأن الموجه ينتهي به بالفعل.
phi3_training.jinja
قالب Phi-3 المُصلَح. الفروقات مقارنةً بـ phi3.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
phi3_5_training.jinja
قالب Phi-3.5 المُصلَح. الفروقات مقارنةً بـ phi3_5.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
qwen2_5_training.jinja
قالب Qwen2.5 المُصلَح. الفروقات مقارنةً بـqwen2_5.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
qwen2_5_base_training.jinja
قالب Qwen2.5 الأساسي المُرقَّع (المستخدم في نقاط التفتيش الأساسية، مثل Qwen2.5-0.5B، حيث يختلف قالبها عن قالب التعليم فقط في موجه النظام الافتراضي). نفس الفرق الموجود في qwen2_5_training.jinja، مطبَّقًا على qwen2_5_base.jinja.
qwen2_5_vl_training.jinja
قالب Qwen2.5-VL المُصلح (يُستخدم أيضاً لـ Qwen2-VL، الذي يأتي مع قالب مطابق على مستوى البايت). الفروقات مقارنةً بـ qwen2_5_vl.jinja:
قسّم رسالة المساعد إلى فرع مستقل بحيث تحيط علامات {% generation %} / {% endgeneration %} بمحتوى المساعد. هذا يتيح لـ return_assistant_tokens_mask=True إنتاج أقنعة صحيحة لخسارة SFT الخاصة بالمساعد فقط.
qwen3_instruct_2507_training.jinja
قالب Qwen3-Instruct-2507 المُصلح (المستخدم في نماذج مثل Qwen3-4B-Instruct-2507، والتي تأتي بنسخة أبسط من Qwen3 دون تحليل reasoning_content / <think>، أو تتبع multi_step_tool، أو علم enable_thinking). الفروقات مقارنةً بـ qwen3_instruct_2507.jinja:
قم بتغليف مخرجات رسالة المساعد بـ {% generation %} / {% endgeneration %} بحيث يُنتج return_assistant_tokens_mask=True أقنعةً صحيحة لخسارة SFT الخاصة بالمساعد فقط.
qwen3_thinking_2507_training.jinja
قالب Qwen3-Thinking-2507 المُصلح (المستخدم في نماذج مثل Qwen3-4B-Thinking-2507، والتي تُسبّق <think>\n في موجه التوليد). الفروقات مقارنةً بـ qwen3_thinking_2507.jinja: نفس مجموعة التغييرات الموجودة في qwen3_training.jinja، والتي تُزيل الشرط loop.index0 > ns.last_query_index بحيث يُصدر كتلة التفكير دائمًا (لحفظ البادئة)، وتُغلّف مخرجات المساعد بعلامات {% generation %} / {% endgeneration %} لحساب خسارة خاصة بالمساعد فقط في SFT.
qwen3_5_think_training.jinja / qwen3_5_nothink_training.jinja
قوالب Qwen3.5 المُرقّعة مع منطق مشترك بين النسختين (تختلفان فقط في القيمة الافتراضية لعلامة enable_thinking):
qwen3_5_think_training.jinjaيُفعّل التفكير افتراضيًا، ويُستخدم في Qwen3.5-4B وما هو أكبر.qwen3_5_nothink_training.jinjaيُعطَّل التفكير افتراضيًا، ويُستخدم في Qwen3.5-2B والنماذج الأصغر منه.
الفرق بين qwen3_5_think.jinja / qwen3_5_nothink.jinja: هو نفسه qwen3_training.jinja (احذف الشرط loop.index0 > ns.last_query_index حتى يُطبع كتلة التفكير دائمًا، وغلّف مخرجات المساعد بـ {% generation %} / {% endgeneration %}).
qwen3_6_training.jinja
قالب Qwen3.6 المُصلَح. الفروقات مقارنةً بـqwen3_6.jinja: مماثل لـqwen3_training.jinja (إزالة الشرط loop.index0 > ns.last_query_index بحيث يُصدر كتلة التفكير دائمًا، وتغليف مخرجات المساعد بـ{% generation %} / {% endgeneration %}).
qwen3_8_training.jinja
قالب Qwen3.8 المُرقَّع. الفروقات مقارنةً بـqwen3_8.jinja: إزالة الشرط preserve_thinking / loop.index0 > ns.last_query_index بحيث يُصدر كتلة التفكير دائمًا — فيتحقق الحفاظ على البادئة حتى عندما يمرّر المستدعي preserve_thinking=False — وتغليف مخرجات المساعد بعلامات {% generation %} / {% endgeneration %} لفقد المساعد فقط في SFT، مع إبقاء الجزء من كتلة التفكير الذي يملؤه مسبقًا موجه التوليد خارج هذه العلامات.
smolvlm_training.jinja
قالب SmolVLM المُصلح (يُستخدم أيضاً لـ SmolVLM2-500M-Video-Instruct، ولـ SmolVLM2-2.2B-Instruct قبل be92141، حيث يأتيان بقالب مطابق تماماً على مستوى البايتات). الفروقات مقارنة بـ smolvlm.jinja:
قسّم رسالة المساعد إلى فرع مستقل بحيث تحيط علامات {% generation %} / {% endgeneration %} بمحتوى المساعد. هذا يتيح لـ return_assistant_tokens_mask=True إنتاج أقنعة صحيحة لخسارة SFT الخاصة بالمساعد فقط.
smolvlm_v2_training.jinja
قالب SmolVLM2 المُرقَّع. نفس الاختلاف الموجود في smolvlm_training.jinja، مطبَّقًا على smolvlm_v2.jinja.
أدوات مساعدة ذات صلة
راجع أدوات قوالب المحادثة للدوال المساعدة (clone_chat_template()، is_chat_template_prefix_preserving، get_training_chat_template()) التي تعمل على هذه القوالب.