SGLang by @lmsysorg هو مشروع مفتوح المصدر يركز على جعل استدلال نموذج اللغة الكبيرة أسرع وأكثر كفاءة ، مع تحسينات مستمرة تترجم بسرعة إلى تسريع في العالم الحقيقي. وراء هذه الجهود مهندسون متخصصون يضمنون تطور الكود لتلبية احتياجات كل من الباحثين والمطورين. في هذه الأسئلة والأجوبة ، يناقش تريفور موريس ، كبير مهندسي برامج التعلم العميق في NVIDIA والمتعهد في SGLang ، دوره كملتزم SGLang في NVIDIA ، وتحسينات الأداء الأخيرة ، وكيف تساعد هذه المساهمات في تعزيز النظام البيئي مفتوح المصدر حول LLMs. ➡️