.@vllm_project dengan cepat menjadi mesin open source untuk inferensi model bahasa besar yang efisien, menyeimbangkan kinerja dengan pengalaman pengembang yang kuat. Di NVIDIA, kontribusi langsung untuk proyek seperti vLLM mencerminkan komitmen untuk memajukan infrastruktur AI open source untuk semua orang. Dalam Tanya Jawab ini, Benjamin Chislett, Insinyur Perangkat Lunak Sistem Senior di NVIDIA dan Komiter untuk vLLM, berbagi perspektifnya tentang membentuk masa depan proyek, pekerjaannya tentang decoding spekulatif, dan mengapa kolaborasi open source penting untuk AI dalam skala besar. 🔗