Halluzinationen messen und senken

Kurz: Eine Halluzination ist eine flüssig formulierte Aussage eines Sprachmodells, die nicht stimmt oder durch keine Quelle gedeckt ist. Man kann sie nicht auf null bringen, aber messen und deutlich senken.

Warum Modelle halluzinieren

Ein Sprachmodell sagt das wahrscheinlichste nächste Wort voraus. Wahrscheinlich heißt „klingt plausibel”, nicht „ist belegt”. Fehlt Wissen, füllt das Modell die Lücke trotzdem mit Passendem. Mehr dazu in Grenzen von KI: Was Modelle nicht können.

Zwei Arten

• Faktenfehler: Die Aussage widerspricht der Welt (falsches Jahr, erfundenes Gesetz).
• Treuefehler: Die Antwort widerspricht dem vorgelegten Text oder Kontext, etwa in einer Zusammenfassung.

Messen

1. Eine Testmenge mit Fragen und geprüften Antworten anlegen.
2. Antworten einzeln in Behauptungen zerlegen und jede gegen die Quelle prüfen.
3. Den Anteil unbelegter Behauptungen zählen. Das ist die Halluzinationsrate.
4. Zusätzlich prüfen, ob das Modell bei fehlendem Wissen „weiß ich nicht” sagt.

Als Prüfer taugen Menschen, feste Regeln oder ein zweites Modell (siehe KI-Evaluierung: Tests, Benchmarks und LLM-als-Richter). Ein Modell als Richter ist günstig, macht aber selbst Fehler und muss stichprobenartig kontrolliert werden.

Senken

• Quellen mitgeben und nur daraus antworten lassen (RAG-Pipeline: Chunking, Reranking und Evaluation).
• Zitate verlangen und prüfen, ob sie im Quelltext wirklich stehen.
• Enthalten erlauben: Im Auftrag ausdrücklich „Antworte nur, wenn der Text es hergibt, sonst sage das”.
• Niedrige Zufälligkeit (Temperatur) bei Faktenaufgaben.
• Prüfschritt: Eine zweite Anfrage kontrolliert die erste.
• Kleine Aufgaben: Kurze, genau umrissene Fragen halluzinieren seltener als offene.

Was bleibt

Auch mit allem davon bleibt ein Restrisiko. Bei Medizin, Recht und Geld gehört deshalb immer ein Mensch mit Quellenkontrolle dazu.