🚀 Szczegółowa recenzja SGLang NVIDIA DGX Spark jest JUŻ DOSTĘPNA! Dzięki programowi wczesnego dostępu @NVIDIA, SGLang po raz pierwszy pojawia się w produkcie konsumenckim, nowym DGX Spark. 128 GB pamięci unifikowanej i architektura Blackwell w DGX Spark ustanawiają nowy standard dla lokalnego prototypowania AI i obliczeń brzegowych. Jesteśmy podekscytowani, że możemy dostarczyć te nowatorskie spostrzeżenia dotyczące wydajności i wsparcia oprogramowania społeczności deweloperów. Nasza recenzja zagłębia się w to, jak efektywnie wdrażać i przyspieszać duże modele, takie jak Llama 3.1 70B, GPT-OSS, korzystając z EAGLE3 spekulacyjnego dekodowania SGLang i @Ollama na tym pięknym dziele inżynieryjnym. 👇 Film unboxing i blog technologiczny w wątku #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing