estou louco ou 6B tok/hr não é assim tão muito são apenas 1.7M tok/s, o que equivale a cerca de 25k pedidos simultâneos à velocidade que o oai serve é só isso?
JP
JPHá 9 horas
4M desenvolvedores e 6B tokens processados por minuto .. @OpenAI
uma cidade universitária de gênios num datacenter
252