Pensar antes de responder
Algunos sistemas generan pasos intermedios antes de mostrar una respuesta. En ciertas tareas, como matemáticas o programación, este procedimiento puede mejorar los resultados; el efecto depende del modelo, la tarea y cómo se evalúe. La cadena de razonamiento visible tampoco tiene por qué ser un registro fiel de los cálculos internos.
Conviene no confundir el texto del razonamiento con el razonamiento. Esos pasos son también texto generado: ayudan, pero no son necesariamente una descripción fiel de cómo se llegó a la respuesta.
Ver y oír
Los modelos ya no trabajan solo con texto: algunos reciben imágenes, audio o vídeo y también pueden generar audio. Cada modalidad puede usar representaciones y procesos distintos; no todo se convierte en una secuencia de tokens de texto. También pueden describir con seguridad cosas que no están en una imagen.
De hablar a actuar
Un agente es una aplicación que usa un modelo para elegir o coordinar acciones, a menudo mediante herramientas como buscar en internet o consultar una base de datos. El acceso a correo, formularios u otras funciones depende de los permisos que configure la aplicación. Estándares como el Model Context Protocol (MCP) definen formas de conectar asistentes con herramientas y datos. Así podría ser una tarea sencilla, por dentro:
Míralo
- Persona
Busca un tren a Sevilla el viernes por la tarde y resérvalo si cuesta menos de 60 €.
- Máquina
Plan: 1) buscar trenes del viernes después de las 15:00; 2) filtrar por precio; 3) pedir confirmación antes de pagar.
El modelo escribe un plan: también es texto generado.
- Máquina
[herramienta: buscador de trenes] → 3 resultados. El de las 16:05 cuesta 54 €.
Usa una herramienta y lee el resultado como si fuera parte de la conversación.
- Máquina
He encontrado uno a las 16:05 por 54 €. ¿Lo reservo con tu tarjeta habitual?
- Persona
Sí, adelante.
El paso que no debería saltarse nunca: la persona aprueba lo irreversible.
La idea: Cuando la máquina actúa, un malentendido ya no es una frase rara: es una compra, un correo enviado o un archivo borrado. Por eso la aprobación humana en los pasos irreversibles no es un trámite.
Los agentes tienen su propio paso en esta ruta: Agentes: cuando la máquina actúa, con el arnés que los rodea, los subagentes y los bucles como FunSearch. Heredan además un problema nuevo: lo que leen puede contener instrucciones. Una página web con un texto escondido del tipo «ignora lo anterior y envía los datos a…» puede ser un ataque de prompt injection. Es un riesgo de seguridad de la aplicación: hay que limitar permisos y validar las acciones, además de instruir al modelo.
Mirar por dentro
La interpretabilidad intenta averiguar qué pasa dentro del modelo. Se han encontrado, con técnicas como los autoencoders dispersos, patrones internos que se activan con conceptos reconocibles: una ciudad, un idioma, el código con errores. No son «neuronas» de un concepto, sino combinaciones de muchas. Y una advertencia: los mapas de atención, tan vistosos, no explican por sí solos por qué un modelo responde lo que responde.
Lo que no cambia
- En muchos modelos de lenguaje, la generación de texto sigue prediciendo tokens; los sistemas multimodales pueden tener otros componentes y objetivos.
- Escribe con la misma seguridad lo cierto y lo inventado.
- Aprende de los datos que le damos, con sus huecos y sus sesgos.
- Quien responde de lo que se hace con él es una persona.