Embedding-Modelle lokal
Das Modell hinter der Suche: macht Text zu Vektoren, damit das Gedächtnis findet
Grundlagen
Embeddings im Unternehmen
wie aus Text Bedeutung wird.
Wer versteht, was ein Embedding ist, versteht, warum eine KI die alte Berechnung findet, obwohl darin ein anderes Wort steht. Es ist einfacher, als der Name vermuten lässt.
KI-generiert- Für wen
- Alle, die verstehen wollen, warum ihre KI etwas findet oder nicht
- Aufwand
- 15 Arbeitstage bis zur Spezifikation
- Förderung
- Wird für Ihr Bundesland geprüft
- Datenhaltung
- Komplett auf Ihrem Server, nichts geht nach außen
- Erster Schritt
- Webinar am 1. Dezember, danach Ihr Analysegespräch
Kurz gesagt
Ein Embedding ist eine Zahlenreihe, die die Bedeutung eines Textabschnitts beschreibt. Texte mit ähnlicher Bedeutung bekommen ähnliche Zahlen, auch wenn sie andere Wörter benutzen. Deshalb findet die Suche das Fundamentdetail, wenn jemand nach Frosttiefe fragt, obwohl dort Gründungstiefe steht. Berechnet werden Embeddings von einem eigenen kleinen Modell, das lokal auf Ihrem Server läuft.
Stand: Oktober 2026
Der Engpass
Warum die Zerlegung genauso wichtig ist wie das Modell
Ein Embedding beschreibt einen Abschnitt. Ist der Abschnitt zu groß, verwischt die Bedeutung, ist er zu klein, fehlt der Zusammenhang. Tabellen, die mitten im Satz zerschnitten werden, findet niemand mehr. Deshalb ist die Zerlegung eigene Arbeit: Größe, Überlappung, Tabellen am Stück, Überschriften als Kontext. Das entscheidet mehr über die Trefferqualität als der Name des Modells.
Im Detail
Warum die Wahl des Embedding-Modells mehr entscheidet als gedacht
Sie merken von diesem Schritt nichts, und er entscheidet trotzdem, ob die Suche taugt. Das Embedding-Modell übersetzt Text in Zahlen, und wie gut es das für deutsche Fachsprache tut, bestimmt, ob Ihre Frage nach der Abnahmeniederschrift das Protokoll findet oder das Angebot.
Modelle, die überwiegend auf Englisch trainiert wurden, schneiden bei deutschen Fachtexten deutlich schlechter ab, und das fällt erst im Betrieb auf. Deshalb gehört auch dieser Baustein in den Testsatz: dieselben dreißig Fragen, einmal mit dem einen und einmal mit dem anderen Modell.
Ein Wechsel später ist möglich, aber nicht umsonst: Der gesamte Bestand muss neu eingelesen werden. Bei großen Beständen ist das eine Nacht Rechenzeit, kein Klick. Deshalb lohnt es sich, diese Entscheidung vor dem ersten vollständigen Einlesen zu treffen.
Anwendungen
Sechs Dinge, die Embeddings im Betrieb möglich machen
Jedes Beispiel funktioniert, weil Bedeutung gesucht wird, nicht das genaue Wort.
01 · Was hereinkommt
- Andere Worte, gleicher Sinn: Frosttiefe findet Gründungstiefe, Mangel findet Beanstandung
- Sprachübergreifend: die deutsche Frage findet den englischen Prüfbericht
02 · Was daraus wird
- Zusammenhang statt Treffer: die Suche findet den Absatz, nicht nur das Stichwort im Dateinamen
- Ähnliche Fälle: zeige mir Projekte, die diesem hier ähneln, ohne dass jemand sie verschlagwortet hat
03 · Was danach anders ist
- Doppelte Dokumente erkennen, weil ihre Bedeutungspositionen fast gleich sind
- Sortieren nach Nähe zur Frage, statt nach Datum oder Ordnerstruktur
Bausteine
Was wir dafür entwickeln
Baustein 1
Büro-Gedächtnis im DetailBüro-Gedächtnis: Ihr KI-Gedächtnis, dessen Trefferqualität hier entsteht
Baustein 2
Machbarkeits-Radar im DetailMachbarkeits-Radar: Anfragen prüfen, indem ähnliche frühere Fälle gefunden werden
Baustein 3
Kalkulations-Assistent im DetailKalkulations-Assistent: Angebote aus vergleichbaren Projekten, gefunden über Bedeutung
Ein Wechsel des Embedding-Modells bedeutet, den gesamten Bestand neu einzulesen.
Zielgruppen
Für wen sich das lohnt
IT und AdministrationEin kleines Modell mehr im Container, wenig Rechenlast, große Wirkung auf die Trefferqualität.
FachabteilungSie merken es daran, dass Sie nicht das Wort aus dem Dokument treffen müssen, um es zu finden.
GeschäftsführungWenn die KI nichts findet, liegt es meist hier, nicht am Sprachmodell. Das spart eine teure Fehlentscheidung.
Ablauf
So stellen wir Embeddings und Zerlegung ein
- Schritt 1
Daten- und Netz-Audit
Was liegt wo, wie viele Scans, welche Rechtegruppen, welcher Serverraum. Fünfzehn Arbeitstage, am Ende die Spezifikation für Server und Software.
- Schritt 2
Aufbau im getrennten Netz
Server im eigenen Netzsegment, Modell lauffähig, Anmeldung über Ihr Active Directory, erster Test mit hundert echten Dokumenten.
- Schritt 3
Einlesen, Härten, Betrieb
Bestand einlesen, Rechte vererben, Sicherheitsprüfung durch Dritte, Pilot mit einer Abteilung, dann Betrieb mit monatlichem Bericht.
Fragen
Was Betriebe an dieser Stelle fragen
Einwand
Brauchen wir dafür Internet?
Nein. Das Embedding-Modell läuft lokal auf Ihrem Server, genau wie das Sprachmodell.
Einwand
Wie lange dauert das Einlesen?
Der erste Durchlauf über hunderttausende Dokumente läuft Tage im Hintergrund, meist zuerst die aktiven Projekte. Danach nur noch neue und geänderte Dateien.
Einwand
Ändert sich etwas, wenn wir das Modell wechseln?
Beim Wechsel des Embedding-Modells wird neu indexiert. Das planen wir über Nacht, die Originale bleiben unberührt.
Einwand
Stecken in den Zahlen unsere Texte?
Die Vektoren allein sind nicht lesbar, aber im Index liegen auch die Textabschnitte. Deshalb behandeln wir ihn wie die Originale, mit denselben Rechten.
Einwand
Gibt es Fördermittel für lokale KI?
Oft ja. Ob ein Zuschuss oder ein Darlehen greift, hängt an Ihrem Bundesland, an der Betriebsgröße und am Vorhaben. Hardware zählt in der Regel mit, wenn sie Teil des Vorhabens ist. Wir prüfen das vor dem Termin und sagen Ihnen, ob sich der Antragsaufwand lohnt.
Weiterlesen
Verwandte Seiten
Vektordatenbank lokal
Der Speicher hinter der Suche: wo die Bedeutung Ihrer Dokumente liegt
Lokale Dokumentensuche
Den Fileserver in Ihren Worten fragen und die Fundstelle bekommen, inklusive Scans, mit Rechten
Programme
Programme, mit denen Sie arbeiten
Zu jedem steht, was sich anbinden lässt, was dabei herauskommt und wo die Grenze liegt.
TestsatzEchte Fragen mit bekannter Antwort, gemessen statt behauptet
DatenqualitätSchlechte Daten blockieren nicht, sie kosten Trefferqualität
DateiablageDen Bestand lesen, wie er ist, und über den Inhalt auffindbar machen
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Wie das geht, zeigen wir im Webinar: live mit Ronja, Eric und Max, mit echten Fragen aus Planungsbüros, gezeigt an einem Beispiel-Archiv. 60 Minuten, online, kostenlos. Nur für Planungs-, Ingenieur- und Architekturbüros.