Der Unterschied ist keine Wortklauberei. An ihm hängt, ob Sie ein neues System aufbauen oder die Suche nutzen, die in Ihren Werkzeugen längst steckt – und das sind zwei sehr verschiedene Projekte. Lohnend ist deshalb ein Blick auf die eine Stelle, an der sich die Lösungen tatsächlich unterscheiden: das Nachschlagen.

Drei Wege, dieselbe Aufgabe

In Teil 1 haben wir den Kern beschrieben: nachschlagen, dann antworten. Wie nachgeschlagen wird, ist damit noch nicht gesagt.

1. Stichwortsuche (auch: Volltextsuche)

Die klassische Suche: Gesucht wird nach Wörtern, wobei moderne Verfahren berücksichtigen, wie selten und wie aussagekräftig ein Wort ist. Der Fachbegriff dafür lautet BM25.

Diese Art zu suchen ist ausgereift, schnell, günstig – und erstaunlich oft völlig ausreichend. Sie spielt ihre Stärke überall dort aus, wo mit festen Begriffen gearbeitet wird: Artikelnummern, Aktenzeichen, Produktnamen, Paragrafen, Fehlermeldungen, Eigennamen. Eine Vektordatenbank brauchen Sie dafür nicht; eine Volltextsuche bringt praktisch jedes gängige Datenbanksystem mit.

2. Bedeutungssuche (semantische Suche, Vektorsuche)

Hier bekommt jeder Abschnitt einen inhaltlichen Fingerabdruck – eine Zahlenreihe, die seine Bedeutung abbildet. Der Fachbegriff dafür ist Embedding. Ihre Frage bekommt ebenfalls einen Fingerabdruck, und das System sucht die inhaltlich ähnlichsten Abschnitte.

Der Gewinn zeigt sich, wenn Frage und Antwort keine Wörter teilen:

Gefragt wird Gefunden wird
„Wie speichern wir eigentlich die Benutzeranmeldungen?“ „Session persistence is implemented using Redis.“

Kein einziges gemeinsames Wort – die Bedeutung passt trotzdem (LanceDB). Genau für diese Fingerabdrücke ist eine Vektordatenbank gedacht.

3. Beides kombiniert (hybride Suche)

In der Praxis der überzeugendste Weg, weil sich die Schwächen gegenseitig ausgleichen. Die Stichwortsuche findet die exakte Artikelnummer, an der die Bedeutungssuche scheitert. Die Bedeutungssuche findet die umschriebene Frage, an der die Stichwortsuche scheitert.

Das ist kein Randthema: Gerade Produktnamen, Kundennummern, Fehlermeldungen und Codebestandteile profitieren stark von der Stichwortsuche. Wer nur auf Embeddings setzt, verliert genau bei diesen Treffern. Nicht zufällig unterstützen ausgewachsene Lösungen wie Qdrant neben der Bedeutungssuche ausdrücklich auch stichwortartige und hybride Suche (Qdrant).

Ein Punkt, der dabei oft untergeht: Die Kombination spart die Vektordatenbank nicht ein, sie setzt beides voraus – den Stichwortindex und die inhaltlichen Fingerabdrücke. Von den drei Wegen kommt allein die reine Stichwortsuche ohne Vektordatenbank aus. Der hybride Weg ist also der aufwendigste der drei, nicht der Mittelweg.

Schaubild „RAG ist nicht gleich Vektordatenbank“ mit drei untereinanderliegenden Karten: Stichwortsuche, gekennzeichnet als „ohne Vektordatenbank“, sucht nach Wörtern, Beispielfrage „Wo steht Artikel 4711?“. Bedeutungssuche, gekennzeichnet als „mit Vektordatenbank“, sucht nach Sinn statt Wortlaut, Beispielfrage „Wie lange dauert es, bis wir aussteigen können?“. Beides kombiniert, gekennzeichnet als „auch mit Vektordatenbank“, gleicht die Schwächen aus und ist meist die beste Wahl. Fußzeile: Auch eine Datenbankabfrage ist Nachschlagen.
Ohne Vektordatenbank kommt allein die reine Stichwortsuche aus – die Kombination braucht sie ebenso wie die Bedeutungssuche.

Die Vektordatenbank gehört zu zwei der drei Wege, nicht zu RAG als solchem. Welcher Weg passt, entscheidet sich daran, wie in Ihrem Betrieb gefragt wird.

Der unterschätzte vierte Baustein: Metadaten

Neben der eigentlichen Suche entscheidet oft ein zweiter Mechanismus über die Qualität: Filter. Jeder Abschnitt kann mit Zusatzangaben abgelegt werden, nach denen sich vorab eingrenzen lässt:

Feld Beispielwert
Projekt backend
Datum neuer als 01.01.2026
Art Entscheidung
Kunde Acme

Erst damit wird aus „irgendwo stand das mal“ eine belastbare Suche: nur Entscheidungen, nur dieses Projekt, nur aus diesem Jahr. Für Zugriffsrechte gilt dasselbe Prinzip – was jemand nicht sehen darf, wird vor der Suche herausgefiltert.

Schaubild „Erst filtern, dann suchen“: Oben eine Karte mit vier Zusatzangaben zu einem Abschnitt – Projekt „backend“, Datum „ab 01.01.2026“, Art „Entscheidung“, Kunde „Acme“. Ein Pfeil führt nach unten zum Ergebnis „Nur Entscheidungen. Nur dieses Projekt. Nur aus diesem Jahr.“ Fußzeile: Dasselbe Prinzip trägt die Zugriffsrechte – was jemand nicht sehen darf, wird vorher herausgefiltert.
Wer vor der Suche eingrenzt, muss hinterher weniger aussortieren – und hält Vertrauliches von vornherein draußen.

Und der einfachste Fall von allen

Auch eine ganz normale Datenbankabfrage ist „Nachschlagen“ im Sinne von RAG. Auf die Frage „Wie viele Paletten Artikel 4711 haben wir noch?“ ist die richtige Antwort eine Abfrage in der Warenwirtschaft – keine Ähnlichkeitssuche über Textabschnitte.

Was das für Sie bedeutet

Wer RAG mit Vektordatenbank gleichsetzt, baut womöglich aufwendige Technik für ein Problem, das eine gute Volltextsuche gelöst hätte. Die sinnvolle Reihenfolge lautet:

  1. Schauen, wie in Ihrem Betrieb tatsächlich gefragt wird. Mit festen Begriffen oder umschreibend?
  2. Prüfen, wie weit die vorhandene Suche trägt. Oft ist mehr da, als man denkt.
  3. Die Bedeutungssuche dort ergänzen, wo sie wirklich etwas beiträgt – und die beiden Wege kombinieren. Wer kombiniert, entscheidet sich damit auch für die Vektordatenbank; sie fällt bei diesem Weg nicht weg, sondern kommt hinzu.

Wie es weitergeht

Im nächsten Teil geht es um die Frage, die am häufigsten gestellt wird: Ab wann lohnt sich der Aufwand überhaupt?

Quellen

Fragen zu diesem Thema?

Erzählen Sie uns kurz, wo Sie stehen. Wir melden uns zeitnah und unverbindlich.