El error como mapa: piedras de paso, objetivo y criterio humano

Buscar sin saber exactamente qué se busca y equivocarse en el intento es, probablemente, lo más humano que existe. Mucho antes de que definiéramos el método científico, los planes de negocio o los roadmaps trimestrales, el mundo progresaba y lograba objetivos: alguien que se apartaba del camino conocido sin más garantía que su propia inquietud, y cuyo desvío, mirado siglos después, resultaba haber cambiado el rumbo de algo. El error no ha sido nunca el reverso del progreso. Ha sido, con frecuencia, su forma más honesta de manifestarse: la prueba de que alguien estaba explorando un territorio que ningún objetivo previo había contemplado.

Esa misma tensión, entre lo que se busca y lo que realmente se encuentra, atravesaba Ordenar la incertidumbre: del razonamiento inferencial a la frontera humana, donde se defendía que, ante lo inesperado —allí donde no hay reglas que aplicar ni datos suficientes que extrapolar—, la máquina falla o alucina, y es el juicio humano el que decide qué hacer con esa desviación: qué es señal y qué es simplemente ruido.

Ese filtro humano, capaz de leer sentido donde solo parece haber error, es más central de lo que parece. No solo gestiona los fallos de un modelo: es el mismo criterio que, a lo largo de la historia, ha decidido cuáles de los pasos que parecían irrelevantes —o directamente equivocados— acaban siendo, mirados con perspectiva, los que de verdad importaron.

El camino como sustancia

La historia está llena de ejemplos de esto. Alexander Fleming no buscaba un antibiótico cuando dejó unas placas de cultivo sin recoger antes de irse de vacaciones; buscaba entender el comportamiento de una bacteria. Lo que encontró al volver fue un moho contaminante que la había destruido. Ese descuido de laboratorio acabó siendo la penicilina.

En 3M, el químico Spencer Silver intentaba desarrollar un adhesivo extremadamente fuerte y obtuvo justo lo contrario: uno débil, que se despegaba con facilidad y no servía para el propósito que tenía entre manos. Durante años nadie supo qué hacer con aquello, hasta que un compañero lo usó para que no se le cayeran los marcapáginas de un cancionero. De ese callejón sin salida nació el Post-it.

Slack ni siquiera iba a ser una empresa de software colaborativo: era la herramienta interna de chat que un equipo se construyó para coordinarse mientras desarrollaba un videojuego, Glitch, que acabó fracasando y cerrándose. El juego, que era el objetivo real, murió. La herramienta secundaria, la que nadie estaba intentando vender, se convirtió en el producto.

En ninguno de los tres casos el resultado fue el objetivo original. Fue, literalmente, lo que sobró de perseguir otra cosa. Esto es lo que Kenneth Stanley y Joel Lehman sistematizan en Why Greatness Cannot Be Planned bajo el nombre de piedras de paso (stepping stones): logros intermedios sin valor evidente en el momento en que aparecen, que solo se revelan decisivos en retrospectiva, y que casi nunca podrían haberse diseñado de antemano porque, vistos desde el objetivo final, el camino real hasta ellos habría parecido absurdo y se habría descartado.

De ahí surge lo que llaman la paradoja del objetivo: cuanto más ambicioso y lejano es un objetivo, más probable es que perseguirlo de forma directa nos aleje de él, porque cierra precisamente los caminos laterales, los que no tienen pinta de llevar a ningún sitio, que, por tanto, conducirían hasta algo mucho más amplio. Frente a la optimización directa, proponen otra brújula, la búsqueda por novedad (novelty search): en lugar de preguntar "¿esto me acerca a la meta?", preguntar "¿esto es genuinamente distinto de lo que ya he probado?" y dejar que sea esa curiosidad la que dirija la exploración. El objetivo se sigue pudiendo medir; simplemente deja de ser el único timón.

Como versa Machado: se hace camino al andar. Solo andando se ve qué piedra aguanta el peso y cuál se hunde en cuanto se pisa; eso no se puede calcular desde el punto de partida, solo descubrir sobre la marcha.

Por qué esto interesa especialmente con la IA

Trasladado al diseño de producto con inteligencia artificial, el problema tiene una versión muy concreta. Cuando se construye un sistema de IA, ya sea un asistente, un flujo conversacional o un agente, se define el éxito en términos medibles: tasa de contención, satisfacción, conversión, tickets resueltos. Está bien que sea así; sin métrica no hay negocio ni forma de saber si algo funciona.

Pero un sistema que cumple perfectamente su objetivo numérico puede estar, al mismo tiempo, descartando la señal más valiosa que recibe: el margen. Todo lo que el usuario hace que no estaba en el guion. Todo lo que el modelo responde no se había anticipado. Todo caso de uso que llega desde el negocio a mitad de proyecto y que "no encaja" en el diseño original.

Es en el diseño conversacional donde este choque se ve con más nitidez, porque el objeto de diseño es el lenguaje humano, que se resiste por naturaleza a caber en un árbol de decisión. Por más cerrado y probado que se plantee un flujo, el usuario dice algo inesperado desde la primera interacción; no por desconocimiento del sistema, sino porque así funciona el lenguaje. Ahí suele cometerse el mismo error, dos veces: tratar esa desviación como ruido que corregir en el siguiente sprint, en vez de como información sobre una intención real que el diseño no había previsto; y medir el éxito solo por cuánto se ciñe al camino trazado, no por cuánto aprende del camino que el usuario realmente recorrió. Lo mismo pasa con los propios errores del modelo: una alucinación o una salida fuera de formato son, en producción, defectos que corregir cuanto antes —y así debe ser—, pero en fase de diseño son también un mapa de lo que el sistema podría llegar a hacer si se le diera permiso para explorarlo.

Aquí vuelve el filtro humano. La novedad, por sí sola, no es garantía de nada: un sistema puede generar infinitas desviaciones y la inmensa mayoría serán ruido puro. Lo que distingue una piedra de paso de un simple error es un juicio que, hoy por hoy, sigue siendo irreductiblemente humano. La máquina puede generar la divergencia; el sentido de esa divergencia sigue exigiendo un mediador humano.

Piedras de paso, no desviaciones: una forma de trabajar

Llevado a la práctica, esto no significa abandonar los objetivos ni los indicadores de negocio, sino cambiar la imagen mental de lo que significa avanzar. La cultura del objetivo entiende el progreso como una flecha: un origen, una línea recta y un destino fijado de antemano. Es una cuestión filosófica, por supuesto —¿la vida misma tiene un objetivo o dirección concreto?—, pero prácticamente nada de lo que produce algo verdaderamente nuevo se mueve así. Los ríos no van en línea recta hacia el mar, y aun así llegan. La evolución biológica no converge hacia un diseño óptimo predefinido: se ramifica, prueba callejones sin salida y de ahí extrae la diversidad que le permite sobrevivir a lo imprevisto.

Pensar el trabajo como una búsqueda circular o en espiral, que vuelve sobre sus propios pasos y los revisa con lo aprendido por el camino, es distinto a perseguir un objetivo de manera lineal y ciega. No implica no tener rumbo, sino aceptar que el rumbo se redefine constantemente a medida que se avanza, y que ese redefinirse no es un fallo del plan original, sino el mecanismo mismo por el que se llega más lejos de lo que ese plan permitía imaginar.

✔️ Corregir y explorar son dos tiempos distintos, no uno solo. Cerrar un error rápido es necesario; cerrarlo sin preguntarse qué revela es tratar como ruido algo que quizás era una vuelta del camino con sentido propio.

✔️ Lo que "no encaja" casi nunca interrumpe el camino: a menudo es el camino, disfrazado de imprevisto, y el tiempo que se le dedica no es tiempo perdido de lo planeado, sino la parte del plan que todavía no sabe que lo es.

Más allá de lo conversacional

Aunque se ilustra mejor desde el diseño de sistemas conversacionales, la idea aplica a cualquier sistema diseñado con objetivos: de producto, de negocio o de la propia arquitectura de un modelo. La pregunta de fondo es siempre la misma: ¿se está midiendo solo si se llega a donde se dijo que se iba a llegar, o también se está mirando qué enseña el camino que no se planeó, y quién tiene el criterio para leerlo?

La IA no ha creado este problema. Con su capacidad de generar valor y error a partes iguales y a gran escala, simplemente lo ha hecho imposible de seguir ignorando. El camino se hace al andar.

📚 Referencia:

• Why Greatness Cannot Be Planned — Kenneth O. Stanley & Joel Lehman.