Arquitectura de red neuronal basada en atención, sin recurrencia. Base de BERT, GPT y los modelos modernos de NLP.
Un ejemplo
Es la arquitectura que hay dentro de ChatGPT, Claude o Gemini: la «T» de GPT.
Términos cercanos
Para leer más: arxiv.org
Glosario · Arquitectura