Halluzination
Kategorie: KI-Konzepte und Methoden
Plausibel klingende, aber sachlich falsche Antwort eines Sprachmodells — typische Schwäche generativer KI.
Definition
Eine Halluzination ist eine Antwort eines Sprachmodells, die sprachlich plausibel und souverän formuliert ist, aber sachlich falsch, erfunden oder nicht durch Quellen belegbar ist.
Bedeutung im Unternehmenskontext
Halluzinationen sind kein Bug, sondern eine direkte Folge der statistischen Funktionsweise von Sprachmodellen: Sie generieren das wahrscheinlichste nächste Wort, nicht das wahre. Risikoreich werden Halluzinationen vor allem in regulierten Bereichen — etwa Rechtsberatung, medizinische Auskunft, Finanzaussagen — und in Kundenkommunikation. Praktische Gegenmaßnahmen: Retrieval-Augmented Generation gegen verifizierbare Quellen, klar formulierte Systemprompts mit Verbot freier Spekulation, Output-Validierung gegen Schemata oder Faktendatenbanken, menschliche Freigabe vor Versand kritischer Texte sowie Logging und Monitoring für nachträgliche Auswertung.
