Embeddings

Representación vectorial de un fragmento de datos —típicamente texto— diseñada para preservar aspectos de su contenido y su significado. La propiedad que los hace útiles: los fragmentos que son similares de alguna manera tienen embeddings más cercanos entre sí que los datos no relacionados.

Es la pieza que hace posible la búsqueda semántica y, con ella, el RAG: se convierte la consulta en un vector, se buscan los vectores más parecidos en la base vectorial y esos fragmentos se envían al modelo.

En el curso

• Sandra Ortiz, sesión 1 — lo define junto a los tokens y los modelos de generación de texto, como uno de los tres conceptos base.
• Renzo Casapia — lo explica con el ejemplo canónico de vectorización uno-caliente sobre la frase «word embedding represents a word as numerical data».
• Dante Téllez, semana 3 — los sitúa en la canalización de ingesta del RAG y advierte que el RAG avanzado usa múltiples embeddings y combina base vectorial con base de grafos.

Relacionado

RAG · Tókenes · LLM · Transformadores · Autoatención