🚀 SGLang Ulasan Mendalam tentang NVIDIA DGX Spark LIVE! Berkat program akses awal @NVIDIA, SGLang membuat penampilan pertamanya dalam produk konsumen, DGX Spark baru. Memori Terpadu 128GB DGX Spark dan arsitektur Blackwell menetapkan standar baru untuk pembuatan prototipe AI lokal dan komputasi tepi. Kami sangat senang menghadirkan wawasan performa mutakhir dan dukungan perangkat lunak ini kepada komunitas pengembang. Ulasan kami menyelami cara menyebarkan dan mempercepat model besar secara efisien seperti Llama 3.1 70B, GPT-OSS menggunakan decoding dan @Ollama spekulatif EAGLE3 SGLang pada rekayasa yang indah ini. 👇 Video unboxing dan blog teknologi di utas #SGLang #NVIDIA #SparkSomethingBig #Blackwell #DGXSpark #AIInference #LLMServing