.@vllm_project se ha convertido rápidamente en un motor de código abierto de referencia para la inferencia eficiente de modelos de lenguaje grandes, equilibrando el rendimiento con una sólida experiencia para los desarrolladores. En NVIDIA, las contribuciones directas a proyectos como vLLM reflejan un compromiso con el avance de la infraestructura de IA de código abierto para todos. En esta sesión de preguntas y respuestas, Benjamin Chislett, Ingeniero de Software de Sistemas Senior en NVIDIA y Comisionado para vLLM, comparte su perspectiva sobre cómo dar forma al futuro del proyecto, su trabajo en la decodificación especulativa y por qué la colaboración de código abierto es importante para la IA a gran escala. 🔗