Die Augmentierte Generation durch Retrieval (RAG) ist zur Referenzarchitektur geworden, um KI-Anwendungen zu erstellen, die Zugriff auf spezifische und aktuelle Informationen benötigen. Wenn Sie mit LLMs entwickeln, ist es entscheidend, RAG zu verstehen.
Was ist RAG
RAG kombiniert zwei Fähigkeiten: die Informationsretrieval und die Texterzeugung. Anstatt sich ausschließlich auf das zu verlassen, was ein LLM während seines Trainings gelernt hat, ruft RAG relevante Dokumente aus einer Wissensdatenbank ab und liefert sie dem LLM als Kontext zur Generierung von Antworten.
Der grundlegende Ablauf:
1. Der Benutzer stellt eine Frage
2. Das System sucht in einer Wissensdatenbank nach relevanten Dokumenten
3. Die abgerufenen Dokumente werden dem Prompt des LLM als Kontext hinzugefügt
4. Das LLM generiert eine Antwort, die sowohl auf seinem Training als auch auf dem abgerufenen Kontext basiert
Dies löst zwei grundlegende Einschränkungen von LLMs: die Wissensgrenze (das Modell kennt keine aktuellen Ereignisse) und die Halluzination (das Modell erfindet Informationen).
Warum RAG wichtig ist
Genauigkeit. Indem die Antworten in realen Dokumenten verankert werden, reduziert RAG die Halluzination erheblich. Das LLM kann spezifische Quellen zitieren, anstatt Informationen aus dem Gedächtnis zu generieren.
Aktualität. RAG-Systeme können auf aktuelle Informationen zugreifen, ohne das Modell neu zu trainieren. Aktualisieren Sie die Wissensdatenbank, und das System hat sofort Zugriff auf neue Informationen.
Fachspezifität. RAG ermöglicht es Ihnen, KI-Systeme zu erstellen, die Experten in Ihrem spezifischen Bereich sind — die Dokumentation Ihres Unternehmens, Ihren Produktkatalog, Ihre juristischen Dokumente — ohne ein Modell zu verfeinern.
Kosten. RAG ist viel kostengünstiger als das Verfeinern. Sie müssen ein Modell nicht neu trainieren; Sie müssen lediglich eine durchsuchbare Wissensdatenbank pflegen.
Wie man ein RAG-System aufbaut
Schritt 1: Bereiten Sie Ihre Dokumente vor. Sammeln und bereinigen Sie die Dokumente, auf die das System zugreifen soll. Dies können PDF-Dateien, Webseiten, Datenbanken oder jeglicher Textinhalt sein. Teilen Sie die Dokumente in Stücke (typischerweise zwischen 200 und 1000 Tokens) auf.
Schritt 2: Erstellen Sie Embeddings. Konvertieren Sie jedes Stück in einen Embedding-Vektor mithilfe eines Embedding-Modells (text-embedding-3 von OpenAI, embed von Cohere oder Open-Source-Alternativen wie BGE oder E5). Diese Embeddings erfassen die semantische Bedeutung jedes Stücks.
Schritt 3: Speichern in einer Vektordatenbank. Speichern Sie die Embeddings in einer Vektordatenbank — Pinecone, Weaviate, Qdrant, Chroma oder pgvector (PostgreSQL-Erweiterung). Die Vektordatenbank ermöglicht eine schnelle Ähnlichkeitssuche.
Schritt 4: Retrieval. Wenn ein Benutzer eine Frage stellt, konvertieren Sie die Frage in einen Embedding und suchen Sie in der Vektordatenbank nach den ähnlichsten Stücken. Geben Sie die 3 bis 10 relevantesten Stücke zurück.
Schritt 5: Generierung. Übermitteln Sie die abgerufenen Stücke zusammen mit der Frage des Benutzers an das LLM. Das LLM generiert eine Antwort, die im abgerufenen Kontext verankert ist.
Fortgeschrittene RAG-Techniken
Hybride Suche. Kombinieren Sie die Vektorsuche mit der Schlüsselwortsuche (BM25) für ein besseres Retrieval. Die Vektorsuche erfasst die semantische Bedeutung; die Schlüsselwortsuche erfasst die genauen Übereinstimmungen.
Neuordnung. Verwenden Sie nach der initialen Abfrage ein Neuordnungsmodell (Cohere Rerank, BGE Reranker), um die Ergebnisse nach Relevanz neu zu organisieren. Dies verbessert die Qualität des Retrievals erheblich.
Abfrage-Transformation. Schreiben Sie die Benutzerabfrage um, um das Retrieval zu verbessern — entwickeln Sie Abkürzungen, fügen Sie Kontext hinzu oder generieren Sie mehrere Abfragevariationen.
Segmentierungsstrategien. Experimentieren Sie mit den Größen und Überlappungen der Stücke. Kleinere Stücke sind präziser; größere Stücke bieten mehr Kontext. Semantische Segmentierung (Aufteilung an natürlichen Grenzen) übertrifft oft die feste Segmentierung.
Metadatenfilterung. Fügen Sie den Stücken Metadaten hinzu (Datum, Quelle, Kategorie) und filtern Sie beim Retrieval. Dies verhindert die Abfrage veralteter oder irrelevanter Informationen.
Häufige Fallstricke
Schlechte Segmentierung. Zu kleine Stücke verlieren den Kontext; zu große Stücke verwässern die Relevanz. Experimentieren Sie, um das richtige Gleichgewicht für Ihre Daten zu finden.
Die Qualität des Retrievals ignorieren. Viele Teams konzentrieren sich auf das LLM und vernachlässigen das Retrieval. Wenn die abgerufenen Dokumente nicht relevant sind, kann das LLM keine guten Antworten generieren. Investieren Sie in die Qualität des Retrievals.
Nicht bewerten. Erstellen Sie Evaluierungs-Pipelines, die die Genauigkeit des Retrievals und die Qualität der Antworten messen. Ohne Messung können Sie nur raten.
Meine Meinung
RAG ist die praktischste Architektur für KI-Anwendungen in der Produktion heute. Sie ist einfacher und kostengünstiger als das Verfeinern, genauer als die Standardantworten von LLMs und ausreichend flexibel, um sich an sich ändernde Informationen anzupassen.
Beginnen Sie mit etwas Einfachem — einer grundlegenden Vektorsuche mit einem guten Embedding-Modell — und fügen Sie bei Bedarf Komplexität hinzu (Neuordnung, hybride Suche, Abfrage-Transformation). Die besten Gewinne kommen von einer hochwertigen Datenvorbereitung und einer durchdachten Segmentierung, nicht von ausgeklügelten Retrieval-Algorithmen.
🕒 Published: