Retrieval-Augmented Generation (RAG)

Eintrag zuletzt aktualisiert am: 23.06.2026

RAG steht für Retrieval-Augmented Generation (deutsch etwa: generationsgestützte Antworterzeugung mit Informationsabruf).

Ein Sprachmodell beantwortet Fragen dabei nicht nur aus seinem trainierten Wissen, sondern greift zusätzlich auf externe Datenquellen zu.

RAG ist ein Verfahren, das die Fähigkeiten eines Sprachmodells mit einer Informationssuche kombiniert. Anstatt eine Antwort ausschließlich aus dem im Modell gespeicherten Wissen zu erzeugen, werden zunächst relevante Informationen aus externen Quellen wie Dokumenten, PDFs, Wikis, Datenbanken oder Webseiten gesucht und anschließend als zusätzlicher Kontext an das Sprachmodell übergeben. Das Modell formuliert dann auf Basis dieser gefundenen Informationen die Antwort.

Typischerweise werden die zu durchsuchenden Dokumente zunächst in kleinere Abschnitte zerlegt und mithilfe von Embeddings in numerische Vektoren umgewandelt. Diese Vektoren werden in einer Vektordatenbank gespeichert. Stellt ein Benutzer eine Frage, wird auch die Frage als Vektor dargestellt und mit den gespeicherten Dokumentvektoren verglichen. Die semantisch ähnlichsten Dokumentabschnitte werden ermittelt und zusammen mit der Benutzeranfrage an das Sprachmodell übergeben.

Der große Vorteil von RAG besteht darin, dass das Sprachmodell auf aktuelle oder unternehmensspezifische Informationen zugreifen kann, ohne neu trainiert werden zu müssen. Neue Dokumente können einfach in den Suchindex aufgenommen werden und stehen sofort für spätere Anfragen zur Verfügung. Gleichzeitig sinkt die Gefahr von Halluzinationen, da die Antworten auf konkreten Quellen basieren. Darüber hinaus lassen sich die verwendeten Quellen häufig nachvollziehen und zitieren.

RAG wird heute in vielen Unternehmensanwendungen eingesetzt, etwa für Chatbots auf Basis von Produktdokumentationen, Wissensdatenbanken, Verträgen, Quellcode-Repositories oder internen Wikis. Moderne Weiterentwicklungen wie Hybrid Search kombinieren Vektor- und Volltextsuche, während Agentic RAG zusätzliche Suchschritte oder Datenquellen dynamisch einbezieht. Dadurch lassen sich auch komplexere Fragestellungen zuverlässig beantworten. Insgesamt ist RAG derzeit einer der wichtigsten Ansätze, um Sprachmodelle mit aktuellem und domänenspezifischem Wissen zu verbinden.