🚀 Revizuirea aprofundată a NVIDIA DGX Spark este LIVE! Datorită programului de acces timpuriu al @NVIDIA, SGLang își face prima apariție într-un produs de larg consum, noul DGX Spark. Memoria unificată de 128 GB a DGX Spark și arhitectura Blackwell au stabilit un nou standard pentru prototiparea AI locală și edge computing. Suntem încântați să aducem aceste informații de ultimă oră despre performanță și asistență software comunității de dezvoltatori. Recenzia noastră se scufundă în modul de implementare și accelerare eficientă a modelelor mari precum Llama 3.1 70B, GPT-OSS folosind decodarea speculativă EAGLE3 de la SGLang și @Ollama pe această frumoasă piesă de inginerie. 👇 Unboxing video și blog tehnic în fir #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing