Apresentamos uma receita melhor para coletar dados pós-treinamento ao usar GRPO. Coletar amostras de especialistas é caro, os orçamentos de anotação são limitados. Quais exemplos realmente valem a pena pagar? Descobrimos que focar em amostras difíceis resulta em uma melhoria de 30-40%. 1/7

Qual é esta nova categoria de empregos? Está na sala connosco 👀. É normal querer automatizar tudo. Essa é a dinâmica atual. No entanto, não é *nada* encorajador tentar defendê-la apontando para empregos que ainda não existem. A revolução industrial não criou máquinas que pudessem realizar todas as tarefas cognitivas que fazemos. Elas eram apenas ferramentas. O mundo inteiro se transformar no amazon mechanical turk não é *o sonho* de ninguém para um futuro positivo. Esses paralelos com revoluções tecnológicas passadas são amplamente desonestos. Talvez as máquinas não consigam fazer tudo o que conseguimos fazer hoje, mas em algum momento elas conseguirão. E vale a pena pensar sinceramente sobre como a sociedade se reestrutura nesse mundo e o que podemos fazer a respeito hoje. É aceitável coletar dados e vendê-los a laboratórios. Vamos construir um grande cérebro. Também é verdade que a maioria das pessoas não queria necessariamente estar a fazer trabalhos para sobreviver em primeiro lugar, vamos ter um pouco de dignidade pela condição humana. Acreditar em algo além do humano, enquanto se almeja um futuro moldado pelos nossos valores, é nobre, mas não vai acontecer tratando todos como porcos de fábrica enviados para extração de dados (a menos que os porcos também possuam a fábrica ;)).