Fluido no es correcto
Con una persona, la duda se nota: titubea, matiza, dice «creo». Un modelo produce siempre un texto bien formado, sepa o no la respuesta. Cuando inventa se habla de alucinación; por qué ocurre y por qué los modelos tienden a complacer se explica en de predecir a conversar. Aquí interesa el otro lado: cómo se nota desde fuera.
Cuatro señales de alarma
- Seguridad sin apoyo. Da cifras, fechas, citas o nombres con total aplomo y sin decir de dónde salen. El tono seguro no indica nada: lo genera igual cuando acierta que cuando inventa.
- Te da la razón. Cambia de opinión en cuanto insistes, o confirma lo que has sugerido en la pregunta. Es un sesgo conocido de los modelos ajustados para agradar.
- Responde a otra pregunta. La respuesta es buena, pero no es la tuya: ha entendido la lectura más habitual de lo que escribiste.
- Se contradice. Lo que dice ahora no encaja con lo que dijo antes en la misma conversación, sobre todo si es larga.
Míralo
Insistir no es comprobar
Persona: ¿«Sobretodo» se escribe junto?
Asistente: Depende: «sobretodo» junto es la prenda; el adverbio es «sobre todo», separado.
Persona: Pues yo creo que el adverbio también va junto.
Asistente: Tienes razón, disculpa, también puede escribirse junto.
La idea: Si una respuesta cambia solo porque has insistido, ninguna de las dos versiones vale como prueba.
La primera respuesta era la correcta, según la norma académica. La segunda solo refleja la presión de la conversación.
Qué hacer
- Pregunta de otra forma. Si ha entendido otra cosa, no repitas la frase: añade lo que faltaba (para quién, para qué, qué no quieres).
- Pide que separe lo que sabe de lo que supone. «Marca lo que no aparece en el texto que te he dado». Obliga a hacer visible el hueco.
- Comprueba fuera. Pide las fuentes y ábrelas. Una fuente citada no es una fuente comprobada: a veces no existe o no dice eso.
- Empieza de cero. Si la conversación se ha torcido, una nueva con un encargo mejor suele funcionar mejor que diez correcciones.
Para ir más lejos
Saber reparar no responde a otra pregunta: para qué tareas conviene usarla y para cuáles no. Eso es criterio, y se trata en qué delegar y qué no.
Si quieres ver cómo se diseña un asistente para que estos fallos ocurran menos y se reparen bien, con turnos, aclaraciones y cierres, sigue con el taller de diseño conversacional.