Halluzination (KI)

Kurz: Eine Halluzination ist eine überzeugend klingende, aber falsche oder erfundene Antwort eines Sprachmodells.

Genauer: Sprachmodelle sagen das wahrscheinlich nächste Token voraus, sie prüfen keine Fakten. Fehlt ihnen Wissen, füllen sie die Lücke mit Plausiblem, etwa erfundene Quellen, Zahlen oder Gesetze.

Im Detail

• Häufig bei: Seltenen Fakten, genauen Zahlen, Zitaten, Literaturangaben, Rechtsfragen.
• Gegenmittel: RAG (Retrieval-Augmented Generation) mit Quellen, Nachfragen, Prüfen mit zweiter Quelle, niedrige Temperatur.
• Erkennen: Zu glatte Antworten ohne Unsicherheit, Quellen, die sich nicht finden lassen.
• Verantwortung: Wer KI-Antworten nutzt, bleibt für die Richtigkeit verantwortlich.

Siehe auch: Temperatur und Sampling, Prompt Engineering