Cómo aprende y cómo se evalúa

Aprender sin que nadie enseñe

Todos los problemas del paso 1 (ambigüedad, contexto, ironía, variación) se intentaron resolver durante décadas escribiendo reglas a mano. Funcionaba en dominios pequeños y se rompía en cuanto el lenguaje se salía del guion. El cambio llegó cuando los sistemas empezaron a aprender de ejemplos.

La clave es la última capa. Para aprender a clasificar reseñas hacen falta personas que las etiqueten; para aprender a predecir la siguiente palabra, no: el propio texto trae la respuesta. Basta con tapar el final de millones de frases y pedir al modelo que lo adivine. Eso es el aprendizaje autosupervisado. Los corpus resultantes combinan fuentes seleccionadas y filtradas; no incluyen todo el texto disponible.

Una respuesta, token a token

Cuando un LLM te responde, no redacta la respuesta entera de una vez. Repite el mismo ciclo una y otra vez:

De las reglas a los LLM

La historia de la lingüística computacional se entiende bien siguiendo una sola palabra difícil. ¿Cómo sabe la máquina de qué «banco» le hablas?

De predecir a conversar

Un modelo recién entrenado solo sabe continuar textos. Si le das una instrucción, puede que la continúe con otra parecida, porque así aparecen las instrucciones en internet: en listas.

Para llegar de una cosa a la otra hacen falta dos ajustes, y en los dos hay personas:

1. Ajuste por instrucciones. Se entrena con miles de pares de petición y buena respuesta escritos por personas. El modelo aprende el formato de una conversación.
2. Ajuste por preferencias. Personas comparan dos respuestas a la misma petición y eligen la mejor. El modelo se ajusta para parecerse a lo que preferimos: más útil, más claro, menos dañino.

Lo que llamamos el «tono» o la «personalidad» de un asistente sale de aquí. Y también parte de sus vicios: si las personas que evalúan prefieren respuestas seguras de sí mismas, el modelo aprende a sonar seguro aunque no lo esté.

Cómo se evalúa

Evaluar es comparar lo que hace el sistema con lo que debería hacer. Cómo se compara depende de la tarea:

Ninguna cifra sustituye a leer los errores uno a uno y clasificarlos: ¿es un problema de registro, de referencia, de conocimiento, de razonamiento? Ese análisis de errores es lingüística aplicada, y es lo que dice de verdad qué hay que arreglar. Puedes probar a mover un umbral de evaluación en Cómo lee una máquina.

Lo que arrastran

Un modelo aprende del texto que producimos, con todo lo que contiene. Cuatro problemas conviene tener siempre presentes:

Sesgos

Si en los textos de entrenamiento los cirujanos son casi siempre hombres, el modelo lo reproduce, aunque nadie se lo haya pedido:

Información falsa con buena prosa

Un modelo escribe con la misma fluidez lo cierto y lo inventado (las alucinaciones). Los detectores de «texto escrito por IA» no son fiables: fallan en ambos sentidos y señalan con más frecuencia a quien escribe en una lengua que no es la suya. No sirven para acusar a nadie.

Privacidad

Lo que se usa para entrenar puede reaparecer. Por eso importa qué datos se recogen, con qué permiso y qué se pega en un chat.

Lenguas y variedades desiguales

Las lenguas y variedades con menos texto en internet se trocean peor, se entienden peor y se generan peor. Lo viste con el euskera en el paso anterior; con las variedades regionales y los registros orales pasa algo parecido.