Tendencias del momento
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
por qué dspy suele hacerte perder el tiempo (y cuándo no)
la pregunta: "¿debería usar dspy para la optimización de prompts? parece ser la herramienta perfecta para mejorar mi sistema rag."
la respuesta: dspy es excelente para tareas muy específicas y bien definidas. pero para la mayoría de los sistemas rag, es una distracción de lo que realmente marca la diferencia.
aquí está la realidad: dspy funciona mejor cuando tienes una tarea de clasificación clara con precisión medible. piensa en una categorización de 35 clases donde puedes escalar en una sola métrica. pero la mayoría de los problemas rag no son así.
cuando estoy construyendo un sistema para extraer información de ventas de transcripciones, no tengo un conjunto de datos de "aquí están todas las ideas de ventas." el trabajo real es extraer todo, etiquetar manualmente algunos ejemplos y desarrollar intuición sobre lo que realmente necesitan los usuarios.
tu producto no es solo un prompt: incluye cómo recopilas comentarios, estableces expectativas en la interfaz de usuario, manejas la extracción de datos y representas fragmentos en contexto. si dedicas tiempo a observar cómo el modelo comete errores y qué están pidiendo los usuarios, avanzarás mucho más en la mejora del producto en su conjunto.
el único lugar donde dspy brilla: escenarios de llm-como-juez. si tienes una evaluación de tonalidad o factualidad que realmente te importa, tiene sentido etiquetar 100 ejemplos tú mismo y luego usar herramientas de optimización de prompts para crear tu propio juez que se alinee con tus calificaciones.
pero para la mayoría de los sistemas rag? es mejor que ajustes manualmente los prompts mientras desarrollas intuición sobre tu caso de uso específico. esa intuición guiará mejores decisiones en toda tu arquitectura de sistema.
Parte superior
Clasificación
Favoritos