Was ist RAG?
RAG heißt: Das System sucht zuerst in Ihren eigenen Dokumenten die passenden Abschnitte und legt sie dem Sprachmodell vor. Das Modell antwortet nur daraus und nennt die Fundstelle. Dadurch kommt die Antwort aus Ihrem Bestand statt aus dem Internet, und sie lässt sich nachprüfen.
Auch genannt: Retrieval Augmented Generation, Antwort mit Quelle, Wissensanbindung
Stand:Von PhoenixOne AI aus Leipzig, dem Spezialisten für Firmen-KI im deutschen Mittelstand. Kostenloses Analysegespräch, 30 Minuten
Was das für Ihr Unternehmen heißt
RAG ist der Unterschied zwischen einer KI, die klingt wie ein Berater, und einer, die Ihre Projektakte von 2019 zitiert. Für Betriebe mit gewachsenem Bestand ist es fast immer der erste sinnvolle Schritt, weil neue Dokumente sofort wirken.
Ein Fall aus dem Alltag
Ein Mitarbeiter fragt, welche Auflage die Denkmalbehörde beim Projekt in der Hauptstraße gemacht hat. Das System sucht in Ihren Projektordnern, findet die Stellungnahme von 2019, formuliert die Auflage in zwei Sätzen und nennt Datei und Seite. Ohne RAG hätte das Modell etwas Plausibles erfunden.
Wie wir es umsetzen
Dokumente werden gelesen, in Abschnitte zerlegt, mit einem Embedding-Modell in Bedeutungsvektoren übersetzt und in einer Vektordatenbank abgelegt. Bei einer Frage sucht das System hybrid aus Bedeutung und Stichwort, ein Reranker sortiert, das Sprachmodell formuliert aus den besten Treffern.
Der häufigste Irrtum
Oft verwechselt mit Feintuning. Feintuning ändert das Verhalten eines Modells und verschluckt das Wissen dabei. RAG lässt das Modell unverändert und legt ihm bei jeder Frage die passenden Stellen vor, deshalb kann es die Quelle nennen.
Grenze
Wo die Grenze liegt
Findet die Suche den falschen Abschnitt, hilft das beste Modell nichts. Die Qualität entsteht in Zerlegung, Embedding und Reranker, nicht im Modell.
Wo das bei uns vorkommt
Lösung · Wissen mit Quelle, Ihre KI-Wissensdatenbank
Firmen-KI
Frage rein, Antwort mit Quelle raus
Lösung · Angebote
Kalkulations-Assistent
Der Entwurf in zwei Stunden statt einem Tag ist unser Ziel
Themenseite
RAG lokal
Themenseite
KI-Wissensdatenbank
Weiterlesen
Verwandte Begriffe
Daten und Suche
Embedding
Die Zahlenreihe, die Bedeutung beschreibt, Grundlage jeder guten Suche
Daten und Suche
Vektordatenbank
Der Speicher, in dem die Bedeutung Ihrer Dokumente liegt
Daten und Suche
Reranker
Der zweite Blick, der aus zwanzig Treffern die zwei richtigen macht
KI-Grundlagen
Feintuning
Das Modell selbst verändern, und warum das selten nötig ist
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Im kostenlosen Analysegespräch, 30 Minuten, sehen wir uns Ihr Unternehmen an und sagen Ihnen, wo die Firmen-KI zuerst hilft. Wir denken langfristig. Der erste Schritt soll sich für Sie schnell rechnen, deshalb steht Ihr erster Baustein ab 2 Wochen. Danach wachsen wir mit Ihnen weiter: Wir suchen langfristige Partnerschaften, keine Einmalprojekte.
- Festpreis je Schritt
- Stopp-Punkt mit Zwischenabnahme
- Eigener Code, der Ihnen gehört