Reinforcement Learning from Human Feedback. Técnica para alinear LLMs con preferencias humanas usando recompensas.
Un ejemplo
Personas leen dos respuestas del modelo a la misma pregunta y marcan cuál es mejor. Con miles de esas preferencias se ajusta el modelo para que responda como preferimos.
Términos cercanos
Para leer más: huggingface.co