Eine Halluzination ist eine frei erfundene, aber überzeugend formulierte Ausgabe eines KI-Modells: falsche Fakten, ausgedachte Quellen, nicht existierende Urteile, Studien oder Paragraphen. Die Ursache liegt im Funktionsprinzip: Sprachmodelle berechnen wahrscheinliche Fortsetzungen, nicht Wahrheit; fehlt das Wissen, entsteht statt einer Lücke eine plausibel klingende Erfindung.
Tückisch ist, dass Fehler genauso souverän klingen wie korrekte Antworten; am Tonfall lässt sich nichts ablesen. Das Risiko lässt sich senken, aber nicht beseitigen: durch RAG mit Quellenangaben, durch Nachfragen nach Belegen und vor allem durch menschliche Prüfung.
Für die Praxis heißt das: Jede KI-Aussage mit Außenwirkung, ob Rechtsauskunft, Gesundheitsinformation oder Zahl im Angebot, wird vor Verwendung gegengeprüft. Wie real das Risiko ist, zeigen Gerichtsverfahren, in denen Anwälte sanktioniert wurden, weil sie Zitate aus erfundenen KI-Urteilen eingereicht hatten.