Kurz erklärt
Von einer KI-Halluzination spricht man, wenn ein generatives KI-System falsche, irreführende oder vollständig erfundene Informationen ausgibt und diese häufig im Brustton der Überzeugung als Tatsachen präsentiert.
Das kann ein einfaches falsches Datum sein, aber auch eine detaillierte Beschreibung von Ereignissen, die niemals stattgefunden haben, oder von Fachquellen, die überhaupt nicht existieren. Verfahren wie RAG senken das Risiko, weil das Modell seine Antwort auf belegte Inhalte stützt.