RAG (Retrieval-Augmented Generation)

RAG kombiniert zwei Schritte. Zuerst durchsucht das System eine Wissensbasis – etwa über eine semantische Suche, die Dokumente als sogenannte Embeddings ablegt und inhaltlich passende Passagen findet, auch wenn die Suchanfrage andere Wörter verwendet. Anschließend formuliert das Sprachmodell die Antwort auf Basis genau dieser Fundstellen und nennt sie als Quellen. Das Modell selbst muss dafür nicht neu trainiert werden: Neues Wissen steht zur Verfügung, sobald ein Dokument in der Wissensbasis liegt.

Im Unternehmensalltag löst RAG ein praktisches Problem: Sprachmodelle kennen weder interne Abläufe noch aktuelle Preislisten oder Verträge. Mit RAG beantwortet die KI Fragen wie „Wie läuft unser Onboarding?“ direkt aus den eigenen Dokumenten – statt aus allgemeinem Trainingswissen zu raten. Weil jede Antwort ihre Fundstellen ausweist, können Mitarbeitende nachvollziehen, worauf eine Aussage beruht, und sie im Zweifel am Originaldokument prüfen. Das senkt das Risiko plausibel klingender, aber falscher Ausgaben, sogenannter KI-Halluzinationen.

Chifty setzt RAG mit Chifty Knowledge um: Dokumente, Notizen und angebundene Quellen wie Google Drive, OneDrive, SharePoint und HubSpot bilden eine gemeinsame Wissensbasis, die Chifty Chat und Chifty Office als Grundlage nutzen. Dabei gilt der Grundsatz, dass die KI Berechtigungen nicht umgehen darf: Der Berechtigungsfilter wird bei jeder Anfrage direkt in der Suche angewendet, bevor ein Ergebnis entsteht. Antworten stützen sich ausschließlich auf Quellen, die die anfragende Person sehen darf – und zeigen die verwendeten Quellenangaben an.

Die Qualität von RAG hängt von der Wissensbasis ab: veraltete oder widersprüchliche Dokumente führen zu entsprechend schwachen Antworten. Wer RAG einführt, sollte deshalb klären, welche Quellen angebunden werden, wer Inhalte pflegen darf und wie Freigaben geregelt sind – dann wird aus verstreutem Unternehmenswissen eine nachprüfbare Antwortgrundlage.