Was ist ein Reranker?
Ein Reranker liest die besten Treffer der Suche noch einmal genau und sortiert sie danach, wie gut sie zur Frage passen. Die schnelle Vektorsuche findet breit, der Reranker entscheidet eng. Erst danach sieht das Sprachmodell die Abschnitte, aus denen es antwortet.
Auch genannt: Nachsortierung, Cross-Encoder
Stand:
Was das für Ihr Büro heißt
Der Reranker ist der größte Hebel für Quellengenauigkeit, besonders bei großen Beständen. Er ist der Unterschied zwischen einer plausiblen und einer belastbaren Antwort.
Ein Fall aus dem Alltag
Die erste Suche liefert dreißig Abschnitte, davon passen fünf wirklich. Der Reranker liest die Frage und die dreißig Abschnitte noch einmal genau und sortiert sie neu. Erst die besten davon bekommt das Sprachmodell zu sehen, und das verbessert die Antwort spürbar.
Wie wir es umsetzen
Wir setzen ein offenes Reranker-Modell lokal ein, das neben dem Sprachmodell auf derselben Grafikkarte läuft und wenig Speicher braucht. Gemessen wird am Testsatz, ob die richtige Fundstelle unter den ersten Treffern landet.
Der häufigste Irrtum
Oft verwechselt mit dem Sprachmodell. Der Reranker formuliert nichts, er bewertet nur, wie gut ein Abschnitt zur Frage passt. Er ist klein, schnell und einer der wirksamsten Bausteine überhaupt.
Grenze
Wo die Grenze liegt
Ein Reranker kann nur sortieren, was die Suche gefunden hat. Fehlt der richtige Abschnitt im Index, hilft auch er nicht.
Wo das bei uns vorkommt
Lösung · Ihre KI-Wissensdatenbank
Büro-Gedächtnis
Frage rein, Antwort mit Quelle raus
Themenseite
Embedding-Modelle lokal
Themenseite
RAG lokal
Weiterlesen
Verwandte Begriffe
Daten und Suche
Embedding
Die Zahlenreihe, die Bedeutung beschreibt, Grundlage jeder guten Suche
KI-Grundlagen
RAG (Retrieval Augmented Generation)
Erst in den eigenen Dokumenten suchen, dann antworten, mit Fundstelle
Daten und Suche
Vektordatenbank
Der Speicher, in dem die Bedeutung Ihrer Dokumente liegt
KI-Grundlagen
Halluzination
Wenn die KI überzeugend etwas erfindet, und was dagegen hilft
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Wie das geht, zeigen wir im Webinar: live mit Ronja, Eric und Max, mit echten Fragen aus Planungsbüros, gezeigt an einem Beispiel-Archiv. 60 Minuten, online, kostenlos. Nur für Planungs-, Ingenieur- und Architekturbüros.