Parámetro que controla la aleatoriedad al generar texto: reescala las probabilidades del siguiente token antes de elegir. Con temperatura 0 (o cercana) el modelo elige casi siempre el token más probable y responde de forma repetible; con valores altos se reparten las probabilidades y aumentan la variedad y el riesgo de incoherencias. No hace al modelo más «creativo» en sentido estricto, solo menos predecible.
Un ejemplo
Con temperatura baja, «Nos vemos hasta…» casi siempre acaba en «mañana». Con temperatura alta pueden salir «luego», «pronto» o algo más raro.
Míralo
¿Qué palabra viene ahora?
Nos vemos hasta ___
- mañana52 %
- luego24 %
- pronto12 %
- el lunes8 %
- nunca4 %
Con temperatura baja casi siempre sale la favorita; con temperatura alta, las raras tienen más opciones. Pulsa varias veces: no elige siempre la más probable, sortea.
La idea: Un modelo de lenguaje no guarda la frase correcta: calcula cuánto encaja cada continuación y sortea entre ellas. La temperatura decide cuánto se arriesga.
Términos cercanos
Para leer más: huggingface.co