Hablé con @bernhardsson sobre la creación de un proveedor de infraestructura nativo de IA desde cero: "Cuando estaba haciendo aprendizaje automático en Spotify, el 90% del trabajo consistía en construir la infraestructura, no la aplicación. Y la infraestructura tradicional no está diseñada para bucles de retroalimentación rápidos. Cuando construyes con IA, es realmente molesto probar localmente y luego desplegar en producción. Puedes dividirlo en dos entornos, pero entonces te enfrentas al problema de moverte entre ellos. Esto no era un problema antes de la IA. Pero ahora, tienes GPU y modelos muy grandes que tardan mucho en cargar. Así que este paso de iniciación lleva mucho tiempo. Creamos @modal para habilitar bucles de retroalimentación rápidos. Puedo presionar enter y ejecutar inmediatamente en la nube. Esto también se presta bien para ejecutar aplicaciones de IA en la nube. Porque ningún proveedor de nube tradicional tiene la capacidad para manejar la escalabilidad dinámica de GPU necesaria para ejecutar inferencias. Finalmente, terminamos creando un proveedor de nube completamente nuevo, nativo de IA."