Was ist RAG (Retrieval Augmented Generation)?
Auch genannt: Retrieval Augmented Generation, Antwort mit Quelle, Wissensanbindung
◆Kurz gesagt
RAG heißt: Das System sucht zuerst in Ihren eigenen Dokumenten die passenden Abschnitte und legt sie dem Sprachmodell vor. Das Modell antwortet nur daraus und nennt die Fundstelle. Dadurch kommt die Antwort aus Ihrem Bestand statt aus dem Internet, und sie lässt sich nachprüfen.
Stand: September 2026
Was das für Ihr Büro heißt
RAG ist der Unterschied zwischen einer KI, die klingt wie ein Berater, und einer, die Ihre Projektakte von 2019 zitiert. Für Betriebe mit gewachsenem Bestand ist es fast immer der erste sinnvolle Schritt, weil neue Dokumente sofort wirken.
Ein Fall aus dem Alltag
Ein Mitarbeiter fragt, welche Auflage die Denkmalbehörde beim Projekt in der Hauptstraße gemacht hat. Das System sucht in Ihren Projektordnern, findet die Stellungnahme von 2019, formuliert die Auflage in zwei Sätzen und nennt Datei und Seite. Ohne RAG hätte das Modell etwas Plausibles erfunden.
Wie wir es umsetzen
Dokumente werden gelesen, in Abschnitte zerlegt, mit einem Embedding-Modell in Bedeutungsvektoren übersetzt und in einer Vektordatenbank abgelegt. Bei einer Frage sucht das System hybrid aus Bedeutung und Stichwort, ein Reranker sortiert, das Sprachmodell formuliert aus den besten Treffern.
Der häufigste Irrtum
Oft verwechselt mit Feintuning. Feintuning ändert das Verhalten eines Modells und verschluckt das Wissen dabei. RAG lässt das Modell unverändert und legt ihm bei jeder Frage die passenden Stellen vor, deshalb kann es die Quelle nennen.
Wo die Grenze liegt
Findet die Suche den falschen Abschnitt, hilft das beste Modell nichts. Die Qualität entsteht in Zerlegung, Embedding und Reranker, nicht im Modell.
Verwandte Begriffe
Sie wollen wissen, ob RAG (Retrieval Augmented Generation) in Ihrem Büro etwas bringt?
Dreißig Minuten, per Video oder Telefon. Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI.
Termin vereinbaren◆Der nächste Schritt
Was kostet Sie das Suchen
im Monat?
Die wenigsten Büros haben das je ausgerechnet. Im Termin machen wir es zusammen: Stunden pro Woche, was eine Stunde bei Ihnen kostet, was im letzten Jahr deswegen schiefgegangen ist. Über uns reden wir erst danach.
- Dreißig Minuten, per Video oder Telefon
- Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI
- Danach wissen Sie, ob sich das für Sie lohnt. Auch wenn die Antwort nein ist
Keine Folien, keine Verkaufsshow. Wenn es nicht passt, sagen wir das im Termin.