Embeddings – Text als Zahlen

Was ist ein Embedding?

Ein Embedding ist eine Liste von Zahlen (ein Vektor), die die Bedeutung eines Textstücks – ein Wort, ein Satz, ein ganzer Absatz – in einem mehrdimensionalen Raum darstellt. Ein eigenes Embedding-Modell erzeugt diese Zahlen, nicht das Sprachmodell selbst, das später deine Fragen beantwortet.

Warum das nützlich ist

Texte mit ähnlicher Bedeutung bekommen Vektoren, die im Zahlenraum nah beieinanderliegen. "Hund" und "Welpe" liegen nah beieinander, "Hund" und "Steuererklärung" weit auseinander. Ein Computer kann diese Nähe berechnen (z. B. mit Cosinus-Ähnlichkeit), ohne die Sprache selbst zu "verstehen" – reine Mathematik reicht.

Wofür man Embeddings braucht

• Semantische Suche: Finde Dokumente, die inhaltlich passen, auch wenn kein Wort exakt übereinstimmt
• RAG: Die Grundlage, um relevante Textausschnitte für eine Anfrage zu finden
• Clustering: Ähnliche Texte automatisch gruppieren
• Empfehlungen: "Ähnliche Artikel"-Funktionen

Wo Embeddings gespeichert werden

Bei größeren Mengen landen Embeddings in einer Vektordatenbank (z. B. Pinecone, Weaviate oder die Postgres-Erweiterung pgvector), die für schnelle Ähnlichkeitssuche über Millionen Vektoren optimiert ist.