oricum îți imaginezi că nealinierea va fi cam stupid și naiv în anumite privințe în retrospectivă. Și apoi văd oameni care fac toate aceste diagrame cu scoruri de înșelăciune și sandbagging-uri și recompense și probabil folosesc genul ăsta de lucruri ca țintă de optimizare. Ca OK, înțeleg că ontologia ta este limitată RN și trebuie doar să lucrezi cu ceea ce ai. Nu sunt împotriva cercetării în acest cadru dacă are sens pentru tine. Dar te rog să nu te mulțumi, frate, este mult prea devreme să crezi că știi cum să cuantifici binele și răul. folosește-ți intuiția. Asta e mai bine. "Dar asta nu scalează!" știi cine are și intuiție și scales? LLM-uri.