Lo que arrastran: sesgos y voces que faltan

Un espejo del texto, no del mundo

Un modelo no aprende cómo es el mundo, sino cómo se ha escrito sobre él. Lo que abunda en internet pesa más; lo que casi no se escribe, apenas existe para él. Cómo aprende de ese texto lo viste en cómo aprende y cómo se evalúa; aquí importan las consecuencias.

Sesgos

Si en los textos de entrenamiento los cirujanos son casi siempre hombres, el modelo lo reproduce, aunque nadie se lo haya pedido:

Lo falso con buena prosa

Un modelo escribe con la misma fluidez lo cierto y lo inventado (las alucinaciones). Los detectores de «texto escrito por IA» tampoco son fiables: fallan en ambos sentidos y señalan con más frecuencia a quien escribe en una lengua que no es la suya. No sirven para acusar a nadie. Cómo notar un error en una conversación concreta está en cuando falla.

Privacidad

Lo que se usa para entrenar puede reaparecer. Por eso importa qué datos se recogen, con qué permiso y qué se pega en un chat: un contrato, un historial médico o los datos de un cliente no deberían acabar en una herramienta cuyas condiciones no conoces.

Lenguas y variedades desiguales

Las lenguas y variedades con menos texto en internet se trocean peor, se entienden peor y se generan peor. Lo viste con el euskera en cómo lee una máquina. Con el español pasa algo parecido a menor escala: la variedad que más se escribe en la red tiende a imponerse, y los registros orales o regionales quedan en los márgenes.

Quién lo detecta

Ninguno de estos problemas se ve en una métrica general. Se ven al leer con atención: quién aparece y quién no, qué variedad se trata como «normal», qué suena seguro sin estar apoyado. Es trabajo de lectura crítica, y por eso las humanidades tienen aquí un papel que no es decorativo.