Prompting, RAG oder Fine-Tuning? Der Entscheidungsweg

Drei Wege lösen ein KI-Problem grundsätzlich unterschiedlich – die falsche Wahl kostet Wochen Arbeit für einen Effekt, den ein besserer Prompt in einer Stunde erreicht hätte.

Kein Grundlagenkapitel

Was Fine-Tuning technisch bedeutet, klärt das Kapitel „Fine-Tuning – ein Modell weitertrainieren". Hier geht es um die Entscheidung davor: Wann lohnt sich besseres Prompting, wann RAG, wann tatsächlich Fine-Tuning?

Schritt 1: Erst Prompting versuchen

Ein klarerer System-Prompt, bessere Beispiele oder eine feste Ausgabestruktur lösen überraschend viele Probleme, kosten nichts außer Zeit und wirken sofort. Prompting ändert keine Fähigkeiten des Modells, lenkt aber Ton, Format und Fokus meist ausreichend.

Schritt 2: RAG, wenn Wissen fehlt

Scheitert die Aufgabe daran, dass dem Modell aktuelles oder firmeneigenes Wissen fehlt – Preislisten, interne Dokumente, letzte Woche veröffentlichte Inhalte –, ist RAG der richtige Hebel, nicht Fine-Tuning. Fine-Tuning prägt neue Fakten unzuverlässig ein; RAG liefert sie frisch bei jeder Anfrage.

Schritt 3: Fine-Tuning erst als letzter Schritt

Fine-Tuning lohnt sich erst, wenn Prompting und RAG ausgeschöpft sind und ein festes Format oder Verhalten trotzdem nicht sitzt – oder bei sehr hohem Volumen, wo kürzere Prompts spürbar Kosten und Latenz sparen.

Die Kriterien im Überblick

Datenmenge, Änderungshäufigkeit des Wissens (häufige Änderungen sprechen für RAG statt Neutraining), Kosten und Zeitaufwand (Prompting Minuten, RAG Tage, Fine-Tuning Wochen) und Format-Konsistenz bei hohem Volumen.

BEISPIEL

Entscheidungstabelle für drei Beispielfälle: Fall A: 'Das Modell kennt unsere aktuellen Produktpreise nicht.' → Wissenslücke, ändert sich oft → RAG Fall B: 'Die Antworten sind zu förmlich, wir brauchen einen lockeren Marken-Ton.' → Verhaltens-/Stilfrage, kein Wissen fehlt → Prompting (System-Prompt mit Beispielen) Fall C: 'Bei 2 Millionen Support-Tickets im Monat muss die Klassifizierung ultraknapp und immer im exakt gleichen JSON-Format laufen, lange Prompts sind zu teuer.' → hohes Volumen, feste Konsistenz, Kostendruck → Fine-Tuning

🛠️ ÜBUNG — MACH DAS BEI DIR

Ordne drei reale oder erfundene Probleme aus deinem Umfeld jeweils einem der drei Wege zu und begründe die Wahl.

Sammle drei unterschiedliche KI-Probleme, die dir begegnet sind oder plausibel sein könnten (z. B. falscher Ton, fehlendes Fachwissen, inkonsistentes Ausgabeformat bei hohem Volumen).
Prüfe für jedes Problem zuerst: Würde ein besserer Prompt reichen?
Prüfe danach: Fehlt tatsächlich Wissen, das sich ändert?
Ordne erst danach ein, ob eines der drei Probleme wirklich Fine-Tuning rechtfertigt, und begründe, warum die anderen beiden Wege dafür nicht reichen.

✅ SELBST-CHECK

☐ Hast du für jedes Problem zuerst Prompting geprüft, bevor du zu einer aufwändigeren Lösung gegriffen hast?
☐ Kannst du für dein Fine-Tuning-Kandidaten-Problem konkret benennen, warum RAG dort NICHT reichen würde?

KURZ-QUIZ

Ein Team stellt fest: Das Modell hat das benötigte Wissen (aktuelle Firmen-Preisliste) schlicht nicht. Welcher der drei Wege passt laut Entscheidungslogik zuerst?