Was ist RAG (Retrieval Augmented Generation)?
Auch genannt: Retrieval Augmented Generation, Antwort mit Quelle, Wissensanbindung
◆Kurz gesagt
RAG heißt: Das System sucht zuerst in Ihren eigenen Dokumenten die passenden Abschnitte und legt sie dem Sprachmodell vor. Das Modell antwortet nur daraus und nennt die Fundstelle. Dadurch kommt die Antwort aus Ihrem Bestand statt aus dem Internet, und sie lässt sich nachprüfen.
Stand: September 2026

Was das für Ihr Büro heißt
RAG ist der Unterschied zwischen einer KI, die klingt wie ein Berater, und einer, die Ihre Projektakte von 2019 zitiert. Für Betriebe mit gewachsenem Bestand ist es fast immer der erste sinnvolle Schritt, weil neue Dokumente sofort wirken.
Ein Fall aus dem Alltag
Ein Mitarbeiter fragt, welche Auflage die Denkmalbehörde beim Projekt in der Hauptstraße gemacht hat. Das System sucht in Ihren Projektordnern, findet die Stellungnahme von 2019, formuliert die Auflage in zwei Sätzen und nennt Datei und Seite. Ohne RAG hätte das Modell etwas Plausibles erfunden.
Wie wir es umsetzen
Dokumente werden gelesen, in Abschnitte zerlegt, mit einem Embedding-Modell in Bedeutungsvektoren übersetzt und in einer Vektordatenbank abgelegt. Bei einer Frage sucht das System hybrid aus Bedeutung und Stichwort, ein Reranker sortiert, das Sprachmodell formuliert aus den besten Treffern.
Der häufigste Irrtum
Oft verwechselt mit Feintuning. Feintuning ändert das Verhalten eines Modells und verschluckt das Wissen dabei. RAG lässt das Modell unverändert und legt ihm bei jeder Frage die passenden Stellen vor, deshalb kann es die Quelle nennen.
Wo die Grenze liegt
Findet die Suche den falschen Abschnitt, hilft das beste Modell nichts. Die Qualität entsteht in Zerlegung, Embedding und Reranker, nicht im Modell.
Verwandte Begriffe
Sie wollen wissen, ob RAG (Retrieval Augmented Generation) in Ihrem Büro etwas bringt?
Dreißig Minuten, per Video oder Telefon. Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI.
Termin vereinbaren◆Der nächste Schritt
Mindestens 50 % weniger Recherchezeit.
Wie, zeigen wir im Webinar.
Die Quelle der Wahrheit für Ihre Firmen-KI: eine Stelle, die Ihr Büro kennt und mit Quelle antwortet, aus Ihren eigenen Ordnern, Mails und Projekten. Nur für Planungs-, Ingenieur- und Architekturbüros.
- Montag, 2. November, 11 Uhr. 60 Minuten, online, kostenlos
- Live mit Ronja, Eric und Max und den Daten eines echten Büros
- Danach, wenn Sie wollen, ein Folgetermin für Ihr Büro
PhoenixOne AI · Die Quelle der Wahrheit