Was ist Halluzination?
Auch genannt: erfundene Antwort, Konfabulation
◆Kurz gesagt
Eine Halluzination ist eine erfundene Antwort, die richtig klingt. Sprachmodelle setzen Wörter nach Wahrscheinlichkeit zusammen, nicht nach Wahrheit. Ohne angebundene Quellen fällt der Unterschied niemandem auf. Mit Fundstelle unter jeder Antwort fällt er sofort auf, weil man das Original öffnen kann.
Stand: September 2026
Was das für Ihr Büro heißt
In einem Betrieb ist eine erfundene Zahl teurer als keine Zahl. Deshalb ist die Fundstelle keine Spielerei, sondern die Voraussetzung dafür, dass jemand der Antwort glaubt und danach handelt.
Ein Fall aus dem Alltag
Sie fragen nach der Frist für eine Stellungnahme, und das Modell nennt eine Zahl, die es nicht gibt. Nichts an der Antwort sieht falsch aus: Der Satz ist gut gebaut, der Paragraf klingt echt. Das ist der gefährliche Teil, denn ein offensichtlicher Fehler wäre harmlos.
Wie wir es umsetzen
Wir arbeiten mit Anweisungen, die nur Antworten aus vorgelegten Quellen erlauben, markieren unbelegte Aussagen und zeigen die Fundstelle mit Link zum Original. Bei Normen arbeiten wir mit Verweis und Rechenlogik statt mit Zitat aus dem Gedächtnis.
Der häufigste Irrtum
Oft verwechselt mit einem Programmfehler. Ein Fehler ist reproduzierbar und lässt sich beheben. Eine Halluzination ist das erwartbare Verhalten eines Systems, das Wahrscheinlichkeiten fortschreibt. Dagegen hilft kein besseres Modell, sondern eine Antwort mit Fundstelle.
Wo die Grenze liegt
Auch mit Quelle kann ein System eine unpassende Stelle vorschlagen. Es wird seltener falsch, aber nie unfehlbar. Deshalb prüft am Ende ein Mensch.
Verwandte Begriffe
RAG (Retrieval Augmented Generation)
Erst in den eigenen Dokumenten suchen, dann antworten, mit Fundstelle
Sprachmodell
Das Programm, das Text versteht und schreibt, Grundlage jeder KI-Anwendung
Prompt
Die Anweisung an die KI, und warum feste Vorlagen besser sind als Talent
Reranker
Der zweite Blick, der aus zwanzig Treffern die zwei richtigen macht
Sie wollen wissen, ob Halluzination in Ihrem Büro etwas bringt?
Dreißig Minuten, per Video oder Telefon. Wir fragen nach Zahlen, nicht nach Ihrem Interesse an KI.
Termin vereinbaren◆Der nächste Schritt
Mindestens 50 % weniger Recherchezeit.
Wie, zeigen wir im Webinar.
Die Quelle der Wahrheit für Ihre Firmen-KI: eine Stelle, die Ihr Büro kennt und mit Quelle antwortet, aus Ihren eigenen Ordnern, Mails und Projekten. Nur für Planungs-, Ingenieur- und Architekturbüros.
- Montag, 2. November, 11 Uhr. 60 Minuten, online, kostenlos
- Live mit Ronja, Eric und Max und den Daten eines echten Büros
- Danach, wenn Sie wollen, ein Folgetermin für Ihr Büro
PhoenixOne AI · Die Quelle der Wahrheit