Tarea de producir texto coherente continuando un prompt o siguiendo instrucciones. Tarea central de los LLMs.
Un ejemplo
El autocompletado que termina tus frases en el correo es generación de texto, en pequeño.
Míralo
¿Qué palabra viene ahora?
Nos vemos hasta ___
- mañana52 %
- luego24 %
- pronto12 %
- el lunes8 %
- nunca4 %
Con temperatura baja casi siempre sale la favorita; con temperatura alta, las raras tienen más opciones. Pulsa varias veces: no elige siempre la más probable, sortea.
La idea: Un modelo de lenguaje no guarda la frase correcta: calcula cuánto encaja cada continuación y sortea entre ellas. La temperatura decide cuánto se arriesga.
Términos cercanos
Para leer más: huggingface.co