Grundlagen
Embeddings im Unternehmen
wie aus Text Bedeutung wird.
Wer versteht, was ein Embedding ist, versteht, warum eine KI die alte Berechnung findet, obwohl darin ein anderes Wort steht. Es ist einfacher, als der Name vermuten lässt.
- Für wen
- Alle, die verstehen wollen, warum ihre KI etwas findet oder nicht
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Komplett auf Ihrem Server, nichts geht nach außen
- Erster Schritt
- Dreißig Minuten Erstgespräch per Video
Kurz gesagt
Ein Embedding ist eine Zahlenreihe, die die Bedeutung eines Textabschnitts beschreibt. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlen, auch wenn sie andere Wörter benutzen. Deshalb findet die Suche das Fundamentdetail, wenn jemand nach Frosttiefe fragt, obwohl dort Gründungstiefe steht. Berechnet werden Embeddings von einem eigenen kleinen Modell, das lokal auf Ihrem Server läuft.
Stand: September 2026
Warum die Zerlegung genauso wichtig ist wie das Modell
Ein Embedding beschreibt einen Abschnitt. Ist der Abschnitt zu groß, verwischt die Bedeutung, ist er zu klein, fehlt der Zusammenhang. Tabellen, die mitten im Satz zerschnitten werden, findet niemand mehr. Deshalb ist die Zerlegung eigene Arbeit: Größe, Überlappung, Tabellen am Stück, Überschriften als Kontext. Das entscheidet mehr über die Trefferqualität als der Name des Modells.
Warum die Wahl des Embedding-Modells mehr entscheidet als gedacht
Sie merken von diesem Schritt nichts, und er entscheidet trotzdem, ob die Suche taugt. Das Embedding-Modell übersetzt Text in Zahlen, und wie gut es das für deutsche Fachsprache tut, bestimmt, ob Ihre Frage nach der Abnahmeniederschrift das Protokoll findet oder das Angebot.
Modelle, die überwiegend auf Englisch trainiert wurden, schneiden bei deutschen Fachtexten deutlich schlechter ab, und das fällt erst im Betrieb auf. Deshalb gehört auch dieser Baustein in den Testsatz: dieselben dreißig Fragen, einmal mit dem einen und einmal mit dem anderen Modell.
Ein Wechsel später ist möglich, aber nicht umsonst: Der gesamte Bestand muss neu eingelesen werden. Bei großen Beständen ist das eine Nacht Rechenzeit, kein Klick. Deshalb lohnt es sich, diese Entscheidung vor dem ersten vollständigen Einlesen zu treffen.
Sechs Dinge, die Embeddings im Betrieb möglich machen
Jedes Beispiel funktioniert, weil Bedeutung gesucht wird, nicht das genaue Wort.
01 · Was hereinkommt
- Andere Worte, gleicher Sinn: Frosttiefe findet Gründungstiefe, Mangel findet Beanstandung
- Sprachübergreifend: die deutsche Frage findet den englischen Prüfbericht
02 · Was daraus wird
- Zusammenhang statt Treffer: die Suche findet den Absatz, nicht nur das Stichwort im Dateinamen
- Ähnliche Fälle: zeige mir Projekte, die diesem hier ähneln, ohne dass jemand sie verschlagwortet hat
03 · Was danach anders ist
- Doppelte Dokumente erkennen, weil ihre Bedeutungspositionen fast gleich sind
- Sortieren nach Nähe zur Frage, statt nach Datum oder Ordnerstruktur
Was wir dafür entwickeln
Ein Wechsel des Embedding-Modells bedeutet, den gesamten Bestand neu einzulesen.
Für wen sich das lohnt
- IT und Administration
- Ein kleines Modell mehr im Container, wenig Rechenlast, große Wirkung auf die Trefferqualität.
- Fachabteilung
- Sie merken es daran, dass Sie nicht das Wort aus dem Dokument treffen müssen, um es zu finden.
- Geschäftsführung
- Wenn die KI nichts findet, liegt es meist hier, nicht am Sprachmodell. Das spart eine teure Fehlentscheidung.
So stellen wir Embeddings und Zerlegung ein
- Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Fünfzehn Arbeitstage, am Ende die Spezifikation für Server und Software.
- Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
- Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Was Betriebe an dieser Stelle fragen
Einwand
Brauchen wir dafür Internet?
Nein. Das Embedding-Modell läuft lokal auf Ihrem Server, genau wie das Sprachmodell.
Einwand
Wie lange dauert das Einlesen?
Der erste Durchlauf über hunderttausende Dokumente läuft Tage im Hintergrund, meist zuerst die aktiven Projekte. Danach nur noch neue und geänderte Dateien.
Einwand
Ändert sich etwas, wenn wir das Modell wechseln?
Beim Wechsel des Embedding-Modells wird neu indexiert. Das planen wir über Nacht, die Originale bleiben unberührt.
Einwand
Stecken in den Zahlen unsere Texte?
Die Vektoren allein sind nicht lesbar, aber im Index liegen auch die Textabschnitte. Deshalb behandeln wir ihn wie die Originale, mit denselben Rechten.
Einwand
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Verwandte Seiten
Embedding-Modelle lokal
Das Modell hinter der Suche: macht Text zu Vektoren, damit das Gedächtnis findet
Vektordatenbank lokal
Der Speicher hinter der Suche: wo die Bedeutung Ihrer Dokumente liegt
Lokale Dokumentensuche
Den Fileserver in Ihren Worten fragen und die Fundstelle bekommen, inklusive Scans, mit Rechten
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
Sehen wir uns Ihren Bestand an.
Dreißig Minuten, per Video oder Telefon. Danach wissen Sie, ob lokale KI bei Ihnen trägt und was der erste Schritt ist.