// KÜNSTLICHE INTELLIGENZ
RAG oder Fine-Tuning? Welches Problem verlangt was
7 Min. Lesezeitnijitech
Beide gelten als Antwort auf den Satz „bringen wir dem Modell unsere Daten bei". Dabei lösen sie zwei verschiedene Probleme. Drei Kriterien für die Wahl.
Ganzer Beitrag
Ein internes KI-Projekt beginnt fast immer mit demselben Satz: „Bringen wir dem Modell unsere eigenen Daten bei." Dieser Satz hat zwei verschiedene technische Entsprechungen, und die beiden lösen unterschiedliche Probleme. Die falsche zu wählen führt nicht direkt zum Scheitern, macht das Projekt aber unnötig teuer und unnötig brüchig.
Was die beiden jeweils verändern
RAG ist eine Schicht, die vor der Antwort das passende Dokument sucht und dem Modell mitgibt. Sie rührt das Modell selbst nicht an; sie gibt ihm den richtigen Kontext. Fine-Tuning dagegen verändert das Verhalten des Modells, indem es dessen Gewichte mit Ihren Beispielen aktualisiert.
Der Unterschied wird hier scharf: RAG verändert Wissen, Fine-Tuning verändert Verhalten. „Wie lautet die Rückgaberichtlinie des Unternehmens" ist eine Wissensfrage. „Antworte immer in diesem Ton und in dieser Form" ist eine Verhaltensanforderung.
1. Wie oft ändert sich das Wissen?
Diese Frage allein entscheidet die meisten Fälle. Preisliste, Lagerbestand, Richtlinientext, Vertragsversion — jede sich ändernde Information gehört auf die RAG-Seite. Sie aktualisieren das Dokument, und das System antwortet ab der nächsten Frage richtig.
Dasselbe Wissen per Fine-Tuning ins Modell zu schreiben, hieße bei jeder Änderung neu zu trainieren. Für eine Information, die sich zweimal pro Woche ändert, ist das ein nicht tragfähiger Kreislauf.
2. Müssen Sie die Quelle zeigen?
RAG kann zeigen, aus welchem Dokument es die Antwort gebildet hat; ein feinabgestimmtes Modell kann das nicht, denn das Wissen ist nun über die Gewichte verteilt. Im Unternehmenseinsatz ist das meist entscheidend: Es reicht nicht, dass die Antwort richtig ist — sie soll überprüfbar sein.
3. Geht es Ihnen um Form oder um Wissen?
Hier liegt der eigentliche Gewinn des Fine-Tunings: Ausgabeform, Ton und Beherrschung der Fachsprache dauerhaft zu verankern. Statt in jedem Prompt die Form langatmig zu beschreiben, kennt das Modell sie bereits — das senkt Promptlänge und Kosten zugleich.
Wann Fine-Tuning sich lohnt
- Wenn die Ausgabe jedes Mal dieselbe strenge Struktur haben muss
- Wenn die Fachsprache so speziell ist, dass ein allgemeines Modell sie nicht von selbst kennt
- Wenn dieselbe lange Anweisung bei jedem Aufruf wiederholt wird
- Wenn ein kleines Modell sich einem großen annähern soll
Meistens lautet die Antwort „beides"
In der Praxis nutzen gut funktionierende Installationen beides zusammen: Das Wissen kommt über RAG, Form und Ton werden per Fine-Tuning festgezurrt. Das sind keine Konkurrenten, sondern verschiedene Schichten.
Die Reihenfolge zählt aber. Zuerst wird RAG aufgebaut, gemessen und gesehen, wo es nicht ausreicht. Fine-Tuning ohne vorherige Messung wird zu einem Kostenposten, von dem niemand weiß, was er verbessert hat.
Zusammenfassung
Drei Fragen für die Wahl
- Ändert sich das Wissen? — Wenn ja, RAG
- Müssen Sie die Quelle zeigen? — Wenn ja, RAG
- Ist das Problem nicht Wissen, sondern Form? — Wenn ja, Fine-Tuning
Und in beiden Fällen wird zuerst ein Evaluationsset aufgebaut. Ohne Messung bleibt auch die Frage, was gewirkt hat, eine Meinung.
In diesem Beitrag erwähnte Produkte
Aus dem Glossar: RAG (Retrieval-Augmented Generation) · Halluzination · Bewertungssatz (Eval)