KI-Halluzination

Sprachmodelle erzeugen Text, indem sie die statistisch wahrscheinlichste Fortsetzung berechnen – sie prüfen dabei nicht, ob eine Aussage wahr ist. Fehlt Wissen zu einer Frage, füllt das Modell die Lücke mit plausiblen, aber erfundenen Inhalten: ausgedachte Quellenangaben, falsche Zahlen, vermischte Fakten oder Details, die nie existiert haben. Besonders tückisch ist der selbstsichere Ton, denn halluzinierte Antworten klingen genauso überzeugend wie korrekte. Halluzinationen sind kein Fehler eines einzelnen Anbieters, sondern eine grundsätzliche Eigenschaft generativer KI – sie lassen sich reduzieren, aber nicht vollständig ausschließen.

Im Unternehmensalltag entstehen daraus konkrete Risiken: eine Kundenantwort mit falschen Produktangaben, eine Vertragszusammenfassung mit einer Klausel, die im Dokument gar nicht steht, oder eine interne Auskunft zu einer Richtlinie, die es nie gab. Wer solche Ausgaben ungeprüft weiterverwendet, riskiert Fehlentscheidungen und Vertrauensverlust bei Kunden. Als Faustregel gilt: KI-Antworten ohne nachvollziehbare Quellenangabe sollten vor der Weiterverwendung immer von einer fachkundigen Person geprüft werden – je folgenreicher die Aussage, desto gründlicher.

Chifty begegnet Halluzinationen mit Quellenbindung: Antworten in Chifty Chat und Antwortentwürfe in Chifty Office stützen sich auf freigegebene Inhalte der gemeinsamen Wissensbasis und zeigen Quellenangaben, sodass sich jede Aussage nachprüfen lässt. Dabei gilt der Grundsatz, dass die KI Berechtigungen nicht umgehen darf – sie antwortet nur aus Quellen, die für die anfragende Person freigegeben sind. Fehlt eine belastbare Quelle, liefert das System lieber nichts als eine erfundene Antwort. E-Mail-Entwürfe werden zudem nie automatisch versendet: Geprüft und verschickt wird immer von einem Menschen.