热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
我和@bernhardsson谈论了从零开始创建一个AI原生基础设施提供商:
“当我在Spotify做机器学习时,90%的工作只是构建基础设施,而不是应用程序。传统的基础设施并不是为快速反馈循环而构建的。
当你在使用AI构建时,本地测试然后部署到生产环境真的很烦人。你可以将其分为两个环境,但你会遇到在它们之间切换的问题。
在AI出现之前,这不是问题。但现在,你有GPU和非常大的模型,加载时间很长。因此,这个初始化步骤需要很长时间。
我们构建了@modal以实现快速反馈循环。我可以按下回车键,立即在云中运行。
这也非常适合在云中运行AI应用程序。因为没有传统的云提供商有能力处理运行推理所需的动态GPU扩展。
我们最终创建了一个完全新的云提供商,原生于AI。”
热门
排行
收藏