Lista de números que representa una palabra, una frase o un documento según los contextos en los que aparece. Lo que se usa de forma parecida queda cerca en ese espacio: «perro» cerca de «gato» y lejos de «hipoteca».
Un ejemplo
En un buen mapa de significados, «café» queda cerca de «té» porque aparecen en frases parecidas («me tomo un…»), aunque no se parezcan en nada como palabras.
Míralo
Un mapa de significados
Con un solo vector por palabra, «banco» queda a medio camino entre el dinero y el parque. Pulsa una palabra para ver sus vecinas.
Los modelos actuales calculan un vector distinto para cada aparición: «banco» en «abrí una cuenta en el banco» cae junto al dinero; en «me senté en un banco», junto al parque.
La idea: Un embedding no guarda definiciones: guarda en qué contextos aparece una palabra. Lo que se usa parecido queda cerca.
Términos cercanos
Para leer más: huggingface.co