我和@bernhardsson谈论了从零开始创建一个AI原生基础设施提供商: “当我在Spotify做机器学习时,90%的工作只是构建基础设施,而不是应用程序。传统的基础设施并不是为快速反馈循环而构建的。 当你在使用AI构建时,本地测试然后部署到生产环境真的很烦人。你可以将其分为两个环境,但你会遇到在它们之间切换的问题。 在AI出现之前,这不是问题。但现在,你有GPU和非常大的模型,加载时间很长。因此,这个初始化步骤需要很长时间。 我们构建了@modal以实现快速反馈循环。我可以按下回车键,立即在云中运行。 这也非常适合在云中运行AI应用程序。因为没有传统的云提供商有能力处理运行推理所需的动态GPU扩展。 我们最终创建了一个完全新的云提供商,原生于AI。”