🚀 متحمس لمشاركة عملنا في Bytedance Seed! حقيبة الظهر RL: فتح استكشاف LLMs عبر تخصيص 🎒 الميزانية الاستكشاف في تدريب ماجستير في القانون أمر بالغ الأهمية ولكنه مكلف. تخصيص الطرح الموحد مهدر: ✅ المهام السهلة → حلها دائما → تدرج 0 ❌ → تفشل المهام الصعبة دائما → 0 تدرج 💡 فكرتنا: التعامل مع الاستكشاف على أنه مشكلة حقيبة الظهر → تخصيص عمليات الطرح حيث تكون أكثر أهمية. ✨ النتائج: 🔼 +20-40٪ أكثر من التدرجات غير الصفرية 🧮 ما يصل إلى 93 عملية طرح للمهام الصعبة (بدون حوسبة إضافية) 📈 +2-4 متوسط نقاط ، +9 ذروة المكاسب على معايير الرياضيات 💰 ~ 2× أرخص من التخصيص الموحد 📄 ورق: