Brand Hallucination bezeichnet den Fall, dass ein KI-System falsche Angaben über ein Unternehmen, seine Produkte oder Preise erzeugt und sie als Tatsache darstellt. Die Ursache liegt in der Arbeitsweise generativer Modelle, die Lücken mit plausibel klingenden Formulierungen schließen, und verstärkt sich bei Marken mit wenigen oder widersprüchlichen Belegen im Netz. Typische Erscheinungsformen sind erfundene Leistungen und Tarife, überholte Preise aus alten Quellen, verwechselte Unternehmen mit ähnlichem Namen sowie falsch zugeordnete Standorte und Zuständigkeiten.
Der Schaden entsteht dort, wo Kunden solche Auskünfte als verbindlich verstehen, etwa bei Konditionen, Fristen oder Garantiezusagen. Vorbeugen lässt sich nur mittelbar: klare, aktuelle und leicht auffindbare Angaben auf der eigenen Website, ausgezeichnet über strukturierte Daten, konsistente Daten in Verzeichnissen und die Beseitigung veralteter Seiten, die sonst weiter zitiert werden. Dazu kommt die laufende Beobachtung, also regelmäßige Testfragen an die gängigen Systeme mit dem eigenen Marken- und Produktnamen.
Rechtlich ist die Lage unübersichtlich: Anbieter schließen die Richtigkeit von Ausgaben in ihren Bedingungen aus, während gegen unwahre, geschäftsschädigende Tatsachenbehauptungen in Österreich Ansprüche nach § 1330 ABGB und, bei Wettbewerbsbezug, nach § 7 UWG in Betracht kommen; betrifft die Falschangabe eine Person, greift zusätzlich das Recht auf Berichtigung nach Art. 16 DSGVO.