Jev Course – Prefill-Only Inference & Decision Models from Scratch
📚 الموضوعات الرئيسية
- ما هو Jev؟يهدف Jev إلى استبدال التوليد التلقائي رمزاً تلو الآخر بتمريرة أمامية واحدة تنتج قرارات محددة، مثل اختيار إجابة أو تقييمها أو إرجاع قيمة منطقية. 1:33
- واجهات القراريشرح الفيديو الفرق بين الخيارات الاسمية، والدرجات الترتيبية، والإجابات الثنائية، وكيف يمكن صياغة كل منها ضمن إطار مشترك. 3:06
- خط الأساس: التوليد التقليدييوضح المثال كيف يعالج نموذج فك التشفير المطالبة، ويستخدم ذاكرة KV، ثم يولّد رموز JSON بالتتابع، ما يزيد زمن الاستجابة. 8:12
- نهج المشفّريضع هذا النهج السؤال والخيارات المقنّعة والسياق في تسلسل واحد، ثم يستخدم تمثيلات السؤال والخيارات لتقدير الاحتمالات؛ لكنه يعيد معالجة السياق لكل سؤال. 21:44
- نهج فك التشفيرتُخزّن الحالة مؤقتاً في ذاكرة KV، ثم تُضاف الأسئلة والخيارات للاستفادة من السياق المخزّن واستخراج احتمالات خيارات الإجابة. 40:54
- القناع السببي للأسئلة المتعددةيُصمّم قناع مخصص يتيح لكل سؤال الاطلاع على الحالة ورموزه، مع منع الأسئلة من التأثر ببعضها بعضاً عند تجميعها. 46:04
- التدريب وتحسين الاحتمالاتيناقش الفيديو تقطير المعرفة من نموذج معلّم، واستخدام GRPO ومسارات مضطربة، مع درجات اللوغاريتم والدرجة الكروية وRPS لبناء دالة خسارة. 1:10:57
✨ النقاط الأساسية
- تقليل زمن الاستجابةتجاوز مرحلة فك التشفير يحد من زمن الاستجابة ويجعل المخرجات أكثر قابلية للتنبؤ، لأن النموذج يختار من خيارات محددة بدلاً من توليد نص مفتوح. 2:03
- المشفّر مقابل فك التشفيريتميز المشفّر بانتباه ثنائي الاتجاه وتمثيل مباشر للخيارات، بينما يسمح فك التشفير بتخزين السياق وإعادة استخدامه عبر أسئلة متعددة. 23:48
- استخراج الاحتمالاتفي نهج فك التشفير، تُستخرج logits عند نقطة القرار وتُحوّل إلى احتمالات للخيارات المحددة، بدلاً من توليد إجابة نصية كاملة. 1:03:40
- مشكلة الرموز المتطابقةقد يلتبس نهج الرمز الأول إذا بدأت خيارات متعددة بالرمز نفسه؛ ويمكن تجنب ذلك بإعادة صياغة الخيارات أو ترميزها بحروف مثل A وB. 1:09:23
🧠 الدروس المستفادة
- اختيار البنية بحسب الاستخدامإذا كانت هناك أسئلة كثيرة حول سياقات محدودة، يفيد فك التشفير وإعادة استخدام ذاكرة KV؛ أما المشفّر فيعيد قراءة الحالة لكل سؤال، لكنه قد يستفيد من الانتباه ثنائي الاتجاه. 1:23:23
- التدريب ضروري لتحسين المعايرةقد تعطي النماذج الجاهزة إشارات مفيدة، لكنها تحتاج إلى ضبط أو تدريب لتقديم احتمالات دقيقة وموثوقة للمهمة. 38:50
- احترام ترتيب الخياراتالخيارات الترتيبية تحتاج إلى مقاييس تراعي ترتيبها، مثل RPS، بينما لا ينطبق هذا النوع من التقييم بالطريقة نفسها على الخيارات الاسمية. 1:19:14
🏁 الخلاصة والخطوات التالية
- الموازنة بين السرعة والدقةيعتمد اختيار المشفّر أو مفكّك التشفير على طول السياق، وعدد الأسئلة، والذاكرة المتاحة، والحاجة إلى إعادة استخدام الحالة، ومتطلبات الدقة. 1:23:23
- تطبيق ما تعلّمتهيقترح الفيديو بناء التنفيذ المناسب لحالة الاستخدام، ثم اختيار مستوى التدريب—رأس خطي أو LoRA أو ضبط كامل—بحسب البيانات والدقة المطلوبة. 1:22:52
Transcript excerpt
0:00 تعلم كيفية بناء وإتقان نماذج اتخاذ القرار بأسلوب Jev من الصفر باستخدام PyTorch وهياكل Hugging Face. من خلال استبدال فك التشفير التلقائي الارتدادي رمزاً تلو الآخر بتمريرة أمامية واحدة، يتجاوز Jev توليد النصوص تماماً لتقديم قرارات نوعية ذات زمن انتقال منخفض ومحدود، مثل الخيارات ، والنتائج الترتيبية ، والقيم المنطقية. سوف تتعرف على نماذج الاستنتاج وتستكشف سير عمل التدريب
0:31 باستخدام RLCD لإنتاج احتمالات صادقة ومعايرة جيداً لمنطق البرمجيات في العالم الحقيقي. >> مرحباً بكم في تعلم Jev من الصفر باستخدام PyTorch فقط والمكتبات الأساسية مثل Hugging Face. سنستخدم نماذج مدربة مسبقاً للاستفادة منها كركيزة أساسية، لكننا سنحاول تعلم المبادئ الأولى للاستنتاج وبعض عمليات التدريب من الصفر حول كيفية عمل Jev ليكون لديك فكرة عن هذا النموذج الخاص لكيفية عمل النماذج
1:02 اللغوية الكبيرة. لذا، سنغطي Jev و RLCD، أي التعلم المعزز للقرارات المعايرة، في هذا الفيديو. أتمنى أن تستمتعوا. أول شيء نريد تغطيته هو ما هو Jev، وما هو RLCD. من المحتمل أن نصل إلى RLCD قرب نهاية هذه السلسلة لأنني أرغب حقاً في تغطية الاستنتاج أولاً والنماذج المختلفة التي يمكنك من خلالها إجراء الاستنتاج، ثم العمل بشكل عكسي لفهم سير
1:33 عمل التدريب. في جوهره ، يعد Jev بسيطاً جداً. إذا كنت تفهم كيفية عمل النموذج اللغوي الكبير، فستعرف أن له مرحلتين. مرحلة التعبئة المسبقة (pre-fill ) وفك التشفير (decode). التعبئة المسبقة هي المرحلة التي يستهلك فيها النموذج المطالبة بالكامل، وهي مرتبطة بالحوسبة بطبيعتها وتستعد لتوليد الرمز الأول. فك التشفير هو توليد الإجابة رمزاً تلو الآخر. حيث إذا كان لديك 500 كلمة أدخلتها كرموز لتقديم سياق
🔒 The full, searchable transcript is available with Pro.
Questions & Answers
Common questions about this video
ما هو Jev، وما الفرق الأساسي بينه وبين التوليد التقليدي في نماذج اللغة الكبيرة؟
ما واجهات القرار الثلاث التي يتيحها Jev؟
كيف يستخدم نهج المشفّر لاستخراج إجابة من سؤال وخياراته؟
لماذا لا يستطيع المشفّر عادةً إعادة استخدام KV cache للسياق عند تغيير السؤال؟
كيف يعيد نهج فك التشفير استخدام السياق للإجابة عن أسئلة متعددة؟
لماذا يحتاج تنفيذ فك التشفير إلى قناع انتباه خاص عند تجميع عدة أسئلة؟
ما المشكلة التي تحدث إذا بدأت خيارات فك التشفير بالرمز نفسه، وكيف يمكن تفاديها؟
كيف تختلف مفاضلات المشفّر وفك التشفير في Jev؟
Related summaries
Python Algorithmic Trading Course – Massive, SnapTrade & Alpaca Integrations
Build your own Mobile App with Codex GPT-6 Astra - Full iOS and Android Course
Design Software Systems Like a Senior Engineer – Complete Course
TanStack Router Course – Loaders, Auth & Type-Safe Routes
n8n Full Course – Architect Scalable AI Automations from Scratch
