Glossar
KI-Halluzination
Eine KI-Halluzination ist eine Ausgabe eines KI-Sprachmodells, die plausibel und überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Für kleine und mittlere Unternehmen ist das Phänomen relevant, weil solche Fehler in Angeboten, Kundenantworten oder internen Recherchen leicht unbemerkt bleiben. Wichtigstes Gegenmittel ist die Bindung der Antworten an geprüfte Quellen.
Stand: 2026-08-03
Sprachmodelle erzeugen Text, indem sie die statistisch wahrscheinlichste Fortsetzung berechnen – sie prüfen dabei nicht, ob eine Aussage wahr ist. Fehlt Wissen zu einer Frage, füllt das Modell die Lücke mit plausiblen, aber erfundenen Inhalten: ausgedachte Quellenangaben, falsche Zahlen, vermischte Fakten oder Details, die nie existiert haben. Besonders tückisch ist der selbstsichere Ton, denn halluzinierte Antworten klingen genauso überzeugend wie korrekte. Halluzinationen sind kein Fehler eines einzelnen Anbieters, sondern eine grundsätzliche Eigenschaft generativer KI – sie lassen sich reduzieren, aber nicht vollständig ausschließen.
Im Unternehmensalltag entstehen daraus konkrete Risiken: eine Kundenantwort mit falschen Produktangaben, eine Vertragszusammenfassung mit einer Klausel, die im Dokument gar nicht steht, oder eine interne Auskunft zu einer Richtlinie, die es nie gab. Wer solche Ausgaben ungeprüft weiterverwendet, riskiert Fehlentscheidungen und Vertrauensverlust bei Kunden. Als Faustregel gilt: KI-Antworten ohne nachvollziehbare Quellenangabe sollten vor der Weiterverwendung immer von einer fachkundigen Person geprüft werden – je folgenreicher die Aussage, desto gründlicher.
chifty Knowledge unterstützt Antworten mit freigegebenen Informationen. Quellenbindung hilft bei der Prüfung, schließt falsche oder unbelegte Aussagen aber nicht aus. Fehlt eine belastbare Quelle, klären Sie den Sachverhalt vor einer verbindlichen Antwort. Prüfen Sie, ob die Fundstelle die konkrete Aussage tatsächlich trägt.