Was ist eine Halluzination bei KI?
Eine Halluzination ist eine erfundene Antwort, die richtig klingt. Sprachmodelle setzen Wörter nach Wahrscheinlichkeit zusammen, nicht nach Wahrheit. Ohne angebundene Quellen fällt der Unterschied niemandem auf. Mit Fundstelle unter jeder Antwort fällt er sofort auf, weil man das Original öffnen kann.
Auch genannt: erfundene Antwort, Konfabulation
Stand:
Was das für Ihr Büro heißt
In einem Betrieb ist eine erfundene Zahl teurer als keine Zahl. Deshalb ist die Fundstelle keine Spielerei, sondern die Voraussetzung dafür, dass jemand der Antwort glaubt und danach handelt.
Ein Fall aus dem Alltag
Sie fragen nach der Frist für eine Stellungnahme, und das Modell nennt eine Zahl, die es nicht gibt. Nichts an der Antwort sieht falsch aus: Der Satz ist gut gebaut, der Paragraf klingt echt. Das ist der gefährliche Teil, denn ein offensichtlicher Fehler wäre harmlos.
Wie wir es umsetzen
Wir arbeiten mit Anweisungen, die nur Antworten aus vorgelegten Quellen erlauben, markieren unbelegte Aussagen und zeigen die Fundstelle mit Link zum Original. Bei Normen arbeiten wir mit Verweis und Rechenlogik statt mit Zitat aus dem Gedächtnis.
Der häufigste Irrtum
Oft verwechselt mit einem Programmfehler. Ein Fehler ist reproduzierbar und lässt sich beheben. Eine Halluzination ist das erwartbare Verhalten eines Systems, das Wahrscheinlichkeiten fortschreibt. Dagegen hilft kein besseres Modell, sondern eine Antwort mit Fundstelle.
Grenze
Wo die Grenze liegt
Auch mit Quelle kann ein System eine unpassende Stelle vorschlagen. Es wird seltener falsch, aber nie unfehlbar. Deshalb prüft am Ende ein Mensch.
Wo das bei uns vorkommt
Lösung · Ihre KI-Wissensdatenbank
Büro-Gedächtnis
Frage rein, Antwort mit Quelle raus
Themenseite
RAG lokal
Themenseite
ChatGPT im Architekturbüro
Weiterlesen
Verwandte Begriffe
KI-Grundlagen
RAG (Retrieval Augmented Generation)
Erst in den eigenen Dokumenten suchen, dann antworten, mit Fundstelle
KI-Grundlagen
Sprachmodell
Das Programm, das Text versteht und schreibt, Grundlage jeder KI-Anwendung
KI-Grundlagen
Prompt
Die Anweisung an die KI, und warum feste Vorlagen besser sind als Talent
Daten und Suche
Reranker
Der zweite Blick, der aus zwanzig Treffern die zwei richtigen macht
Der nächste Schritt
Unser Ziel: keine Suchzeit mehr.
Sie fragen, die belegte Antwort steht mit Quelle da. Wie das geht, zeigen wir im Webinar: live mit Ronja, Eric und Max, mit echten Fragen aus Planungsbüros, gezeigt an einem Beispiel-Archiv. 60 Minuten, online, kostenlos. Nur für Planungs-, Ingenieur- und Architekturbüros.