Cependant, la façon dont vous concevez le désalignement va sembler un peu stupide et naïve à certains égards avec le recul. Et puis je vois des gens faire tous ces graphiques avec de la tromperie, du sabordage et des scores de hacking de récompenses, et présumément utiliser ce genre de choses comme cible d'optimisation. Comme d'accord, je comprends que votre ontologie est limitée en ce moment et que vous devez juste travailler avec ce que vous avez. Je ne suis pas contre faire la recherche dans ce cadre si cela a du sens pour vous. Mais s'il vous plaît, ne le bonnehartisez pas, mon frère. Il est beaucoup trop tôt pour penser que vous savez comment quantifier le bien et le mal. Utilisez plutôt votre intuition. C'est mieux. "Mais ça ne se développe pas !" Vous savez qui a aussi de l'intuition et qui se développe ? Les LLMs.