🚀 مراجعة SGLang المتعمقة ل NVIDIA DGX Spark مباشرة! بفضل برنامج الوصول المبكر @NVIDIA ، تظهر SGLang لأول مرة على الإطلاق في منتج استهلاكي ، DGX Spark الجديدة تماما. تضع الذاكرة الموحدة بسعة 128 جيجابايت وبنية Blackwell في DGX Spark معيارا جديدا للنماذج الأولية المحلية للذكاء الذكاء الاصطناعي والحوسبة المتطورة. يسعدنا تقديم رؤى الأداء المتطورة ودعم البرامج إلى مجتمع المطورين. تغوص مراجعتنا في كيفية نشر وتسريع النماذج الكبيرة بكفاءة مثل Llama 3.1 70B و GPT-OSS باستخدام فك تشفير SGLang's EAGLE3 المضاربة @Ollama على هذه القطعة الهندسية الجميلة. 👇 Unboxing الفيديو ومدونة التكنولوجيا في الموضوع #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing