KI-Lexikon · Bauen und verbinden
RAG
Auch genannt: Retrieval-Augmented Generation · KI mit Wissensbasis
Was ist RAG?
Ein Sprachmodell wie Claude oder ChatGPT weiß nur, was es beim Training gelesen hat. Was im Baustellenprotokoll vom Dienstag steht, weiß es nicht. Fragst du trotzdem, rät es, und das klingt oft überzeugend.
RAG ändert das. Das Alltagsbild ist eine Prüfung mit erlaubtem Ordner: Die KI darf vor jeder Antwort in deinen Unterlagen nachschlagen, etwa in Projektakten, Preislisten oder Handbüchern. Der Begriff stammt aus einem Forschungsaufsatz von 2020.
Wie funktioniert das?
Die Unterlagen werden einmal vorbereitet. Danach läuft jede Frage gleich ab:
- Vorbereiten: Die Dokumente werden in kurze Abschnitte geteilt und nach Bedeutung durchsuchbar abgelegt, meist mit Embeddings.
- Suchen: Kommt eine Frage, holt das System die Abschnitte, die am besten passen.
- Antworten: Die Abschnitte gehen mit der Frage an das Modell. Es formuliert daraus die Antwort und kann das Dokument nennen, aus dem sie stammt.
Warum zählt das für deinen Betrieb?
Weil das Wissen eines Betriebs in Mails, Notizen, Fotos und Protokollen verteilt ist. Mit RAG fragt jemand im Team „Wurde der neue Liefertermin schriftlich bestätigt?“ und bekommt die Antwort mit Fundstelle, statt selbst zu suchen.
Die Quelle macht den Unterschied: Du kannst nachprüfen, ob die Antwort stimmt. Die Grenze ist ebenso klar. RAG ist nur so gut wie die Unterlagen. Sind Preislisten veraltet oder widersprechen sich zwei Dokumente, gibt die KI das Durcheinander weiter.
Wie setzt OsAI das ein?
OsAI baut RAG-Systeme für klar umrissene Wissensbestände, etwa die Akten eines Projekts. Die Live-Demo „Fragen an die Projektakte“ auf So läuft das zeigt das an einem frei erfundenen Beispiel: Die Antwort nennt ihre Quellen, und die leuchten in der Akte auf.
Ob deine Unterlagen dafür reichen, schätzt der kostenlose KI-Daten-Check ein. Wann RAG passt und wann eine einfache Automatisierung reicht, steht im Ratgeber KI-Agenten und RAG.
Häufige Fragen
Was ist der Unterschied zwischen RAG und Fine-Tuning?
Bei RAG schlägt die KI in deinen Unterlagen nach, das Modell bleibt unverändert. Beim Fine-Tuning wird das Modell mit eigenen Beispielen nachtrainiert. Für Wissen, das sich ändert, wie Preise oder Termine, passt RAG meist besser: Du tauschst nur das Dokument aus.
Erfindet eine KI mit RAG keine Antworten mehr?
Seltener, ganz ausgeschlossen ist es nicht. RAG verbessert die Genauigkeit und erlaubt Quellenangaben, die KI kann eine Stelle aber falsch lesen oder Lücken füllen. Deshalb gehört die Quelle zur Antwort, und bei wichtigen Dingen schaut ein Mensch nach.
Gehen meine Dokumente bei RAG an den KI-Anbieter?
Die passenden Abschnitte gehen bei jeder Frage an das Sprachmodell, bei einem Cloud-Dienst also an dessen Anbieter. Dafür brauchst du einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Bei sehr sensiblen Unterlagen kommt ein lokal laufendes Modell infrage.
Verwandte Begriffe
Weiterlesen im Blog
Passende Leistungen
Quellen
Stand: