¿Estoy loco o 6B tok/hr no es tanto? Eso son solo 1.7M tok/s, que son como 25k solicitudes concurrentes a la velocidad a la que sirve oai. ¿Eso es todo?
JP
JPHace 11 horas
4M desarrolladores y 6B tokens procesados por minuto .. @OpenAI
una ciudad universitaria de genios en un centro de datos
259