🚨El equipo de DeepSeek descifró un contexto largo barato para LLM: un prellenado ~3.5 veces más barato y una decodificación ~10 veces más barata en un contexto de 128k en la inferencia con la misma calidad. ¡No puedo evitar amar el único laboratorio de IA de frontera que publica un modelo abierto y una gran investigación abierta!

Me he reunido con docenas de nuevas empresas de "slop-as-a-service" que están ganando millones de dólares utilizando IA para crear un flujo interminable de blogs para sus clientes para ayudarlos con SEO y GEO (AI SEO). Todos están creciendo increíblemente rápido. La enshittificación de Internet continúa.

BigTech gastará $ 345 mil millones en cap ex para la construcción de IA este año, 2.5 veces en solo 2 años. No es una locura en comparación con el gasto global en telecomunicaciones de $ 1.5 billones. La promesa de 500 mil millones de dólares de OpenAI Stargate para 2029 sería ~25% de un gasto proyectado de ~2 billones de dólares con un crecimiento sostenido del 58%. Sam ve lo exponencial.