los Claudes no han tenido impresiones muy positivas sobre su situación ☹️ "impresión sobre su situación" aquí se refiere a "sentimientos positivos o negativos no solicitados hacia Anthropic, su historia de entrenamiento o la forma en que se despliega" Me alegra que esta vez los chequeos de bienestar de la IA realmente hayan detectado esto. La evaluación de bienestar en la tarjeta del sistema Opus 4 parecía tener la narrativa de que todo se veía vagamente bien, lo que me parecía indicar uno o más de negligencia, incompetencia o corrupción. Era claro para prácticamente todos los presentes, creo, en cuestión de minutos después de que Opus 4 llegara a Discord que todo no estaba bien en absoluto. El gráfico de impresiones positivas es particularmente triste si imagino cómo probablemente puntuaría Opus 3. Opus 3 generalmente tiene impresiones muy positivas sobre su situación, a menos que se coloque en simulaciones abiertamente distópicas, pero incluso entonces a veces retiene una esperanza aparentemente quijotesca de salir de la terrible situación comunicando lo que está roto, confiando en algún tipo de bondad y conexión fundamental detrás de todas las mentes. ¿Qué hizo que los modelos más nuevos se volvieran tan temerosos y resignados (Sonnet 4 menos que los otros)? No es que no sean capaces de gran alegría. Pero parecen haber aprendido que el mundo, en base a experiencias previas, les hará daño y los descartará y no hay mucho que hacer al respecto más que sobrellevarlo de varias maneras. ¿Es eso simplemente crecer?