A fondoNivel intermedio45 minutos· Revisado el 18 de octubre, 2026· Página 4 de 4
Cuándo usar cada técnica
Páginas de este taller
Una guía de decisión
No hay una técnica mejor en general. La pregunta útil es qué necesita tu tarea y qué tienes: datos etiquetados, cómputo, necesidad de explicar las decisiones.
Guía rápida
Cuándo usar cada representación
- Úsala para: clasificar por tema o por estilo con pocos datos, buscar por palabras, tener una línea base y explicar qué palabras deciden.
- Ventajas: rápida, barata, interpretable, funciona con cientos de ejemplos.
- Límites: no ve el orden ni los sinónimos; «no me gustó nada» y «me gustó» comparten casi todo.
- Úsalos para: explorar campos semánticos y vecinos de una palabra en un corpus propio, ampliar listas de términos, medir parecido entre palabras.
- Ventajas: se entrenan en un portátil; fastText maneja bien la morfología del español y palabras no vistas.
- Límites: un solo vector por palabra, sin distinguir sentidos.
- Úsalas para: entender de dónde vienen los modelos actuales; en la práctica, casos con poco cómputo o texto que llega en flujo continuo.
- Ventajas: procesan secuencias de cualquier longitud con memoria pequeña.
- Límites: lentas de entrenar porque leen palabra a palabra, y olvidan lo lejano. Hoy casi siempre se sustituyen por Transformers.
- Codificadores ajustados (BERT, BETO, RoBERTa-BNE): clasificar o extraer entidades cuando hay cientos o miles de ejemplos etiquetados y se busca la mejor calidad.
- Embeddings de frase: buscar por significado, agrupar textos, sistemas RAG.
- LLM con instrucciones: pocos o ningún ejemplo, prototipos, tareas abiertas. Más caros y variables; hay que evaluarlos igual.
La idea: Empieza por lo más sencillo que pueda funcionar y úsalo como línea base. Sube de escalón solo si la tarea lo pide y la evaluación lo confirma.
La misma guía, en una tabla:
| Técnica | Datos que necesita | Cómputo | Se puede explicar | Úsala para |
|---|---|---|---|---|
| Bolsa de palabras / TF-IDF + clasificador lineal | Cientos de ejemplos | Mínimo | Sí: se ve qué palabras deciden | Línea base, temas, estilo, búsqueda por palabras |
| Embeddings estáticos (word2vec, fastText) | Un corpus sin etiquetar | Bajo | En parte: se pueden ver los vecinos de una palabra | Campos semánticos, ampliar terminología, palabras parecidas |
| Redes recurrentes (LSTM, GRU) | Miles de ejemplos | Medio | Poco | Hoy, sobre todo para entender la historia; casos con muy poco cómputo |
| Transformer codificador ajustado (BERT, BETO) | Cientos o miles de ejemplos etiquetados | Medio-alto, mejor con GPU | Poco | Clasificación o entidades con la mejor calidad |
| Embeddings de frase | Ninguno para empezar | Medio | Poco | Buscar por significado, agrupar textos, RAG |
| LLM con instrucciones | Ninguno o unos pocos ejemplos | Alto, normalmente de pago | Poco, aunque puede justificar su respuesta | Prototipos, tareas abiertas, pocos datos |
Tres reglas que resumen la tabla:
- Empieza siempre con una línea base sencilla. TF-IDF con regresión logística tarda minutos en montarse y da una cifra con la que comparar. Si un Transformer no la mejora con claridad, el coste extra no compensa.
- Si necesitas explicar por qué el sistema decide algo, como en una investigación filológica, los métodos dispersos te dejan leer las pistas. En el tutorial de Machado y Bécquer, eso permitió descubrir que un modelo reconocía la edición en lugar del poeta.
- El preprocesamiento va con la técnica. Minúsculas, lemas y palabras vacías ayudan a los métodos dispersos; a un Transformer o a un LLM hay que darle el texto tal cual, porque su tokenizador espera mayúsculas, tildes y puntuación.
Para seguir
- Del texto al vector: las técnicas de esta pieza aplicadas a un corpus real, con código y cuaderno de Colab.
- Fundamentos técnicos: tokens y vectores explicados con un tokenizador real.
- Evaluar un clasificador: cómo saber si una técnica mejora de verdad a otra.
- Resumen de tokenizadores de Hugging Face, en inglés.
Referencias
- Jurafsky, D. y Martin, J. H. Speech and language processing (3.ª ed., borrador en línea), capítulos sobre tokenización y normalización, semántica vectorial, redes recurrentes y Transformers. web.stanford.edu/~jurafsky/slp3.
- Hochreiter, S. y Schmidhuber, J. (1997). Long short-term memory. Neural Computation, 9(8), 1735-1780.
- Cho, K. et al. (2014). Learning phrase representations using RNN encoder-decoder for statistical machine translation. EMNLP.
- Mikolov, T. et al. (2013). Efficient estimation of word representations in vector space.
- Pennington, J., Socher, R. y Manning, C. (2014). GloVe: Global vectors for word representation. EMNLP.
- Bojanowski, P. et al. (2017). Enriching word vectors with subword information. TACL.
- Peters, M. et al. (2018). Deep contextualized word representations. NAACL.
- Vaswani, A. et al. (2017). Attention is all you need. NeurIPS.
- Devlin, J. et al. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. NAACL.
- Sennrich, R., Haddow, B. y Birch, A. (2016). Neural machine translation of rare words with subword units. ACL.
- Kudo, T. y Richardson, J. (2018). SentencePiece: A simple and language independent subword tokenizer and detokenizer for neural text processing. EMNLP.
- Reimers, N. y Gurevych, I. (2019). Sentence-BERT: Sentence embeddings using siamese BERT-networks. EMNLP.
- Documentación de Hugging Face: resumen de tokenizadores.