Saya berbicara dengan @bernhardsson tentang membuat penyedia infrastruktur asli AI dari awal: "Ketika saya melakukan pembelajaran mesin di Spotify, 90% pekerjaan hanya membangun infrastruktur, bukan aplikasi. Dan infra tradisional tidak dibuat untuk loop umpan balik yang cepat. Saat Anda membangun dengan AI, sangat menjengkelkan untuk menguji secara lokal dan kemudian menyebarkan ke dalam produksi. Anda dapat membaginya menjadi dua lingkungan, tetapi kemudian Anda mengalami masalah untuk pergi di antara mereka. Ini bukan masalah sebelum AI. Tapi sekarang, Anda memiliki GPU dan model yang sangat besar yang membutuhkan waktu lama untuk dimuat. Jadi langkah inisiasi ini membutuhkan waktu yang sangat lama. Kami membangun @modal untuk memungkinkan loop umpan balik yang cepat. Saya dapat menekan enter, dan segera berlari di cloud. Ini juga cocok untuk menjalankan aplikasi AI di cloud. Karena tidak ada penyedia cloud tradisional yang memiliki kapasitas untuk menangani penskalaan GPU dinamis yang diperlukan untuk menjalankan inferensi. Kami akhirnya menciptakan penyedia cloud yang sama sekali baru, asli AI."