Kurz erklärt
Eine Halluzination ist eine überzeugend klingende, aber falsche oder erfundene Antwort eines Sprachmodells.
Genauer
Sprachmodelle sagen das wahrscheinlich nächste Token voraus, sie prüfen keine Fakten. Fehlt ihnen Wissen, füllen sie die Lücke mit Plausiblem, etwa erfundene Quellen, Zahlen oder Gesetze.