🚀 Podrobná recenze SGLang NVIDIA DGX Spark je ŽIVÁ! Díky programu předběžného přístupu společnosti @NVIDIA se SGLang vůbec poprvé objevuje ve spotřebitelském produktu, zbrusu novém DGX Spark. 128GB sjednocená paměť DGX Spark a architektura Blackwell nastavily nový standard pro lokální prototypování umělé inteligence a edge computing. Jsme nadšeni, že můžeme komunitě vývojářů přinést tyto špičkové přehledy o výkonu a softwarovou podporu. Naše recenze se ponoří do toho, jak efektivně nasadit a zrychlit velké modely, jako je Llama 3.1 70B, GPT-OSS pomocí spekulativního dekódování EAGLE3 od SGLang, a @Ollama na tomto krásném technickém díle. 👇 Rozbalování videa a technického blogu ve vlákně #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing