Fine-Tuning
Zuletzt aktualisiert:
Was Fine-Tuning ist
Große Sprachmodelle beginnen mit einem allgemeinen Pre-Training auf riesigen Textmengen. Fine-Tuning ist ein zweiter, viel kleinerer Trainingslauf mit Beispielen, die du auswählst, meist Paaren aus Eingabe und gewünschter Ausgabe. Das Ergebnis ist eine neue Version des Modells, deren interne Parameter, die Gewichte, sich in Richtung dieser Beispiele verschoben haben.
Fine-Tuning eignet sich gut, um Muster beizubringen: einen einheitlichen Ton, ein festes Ausgabeformat, ein Klassifizierungsschema oder fachspezifische Formulierungen. Weniger geeignet ist es für Fakten, die sich ändern, etwa Preise, Lagerbestand oder Öffnungszeiten, denn jede Änderung würde einen neuen Trainingslauf erfordern.
So funktioniert Fine-Tuning
Ein typisches Fine-Tuning-Projekt läuft in vier Schritten ab:
- Beispiele sammeln: hochwertige Paare aus Eingabe und Ausgabe, die das gewünschte Verhalten zeigen. Qualität und Einheitlichkeit zählen mehr als die Menge.
- Trainieren: Der Modellanbieter oder deine eigene Infrastruktur passt die Gewichte des Modells an diese Beispiele an, oft mit Verfahren wie LoRA, die nur einen kleinen Teil des Modells verändern.
- Auswerten: Das angepasste Modell wird mit dem Original an Testfragen verglichen, die es noch nicht kennt, um sicherzugehen, dass es besser wurde, ohne allgemeine Fähigkeiten zu verlieren.
- Einsetzen und pflegen: Das angepasste Modell ersetzt in deiner Anwendung das Basismodell und muss neu trainiert werden, wenn das Basismodell eingestellt wird oder sich das gewünschte Verhalten ändert.
Beispiel
Eine Anwaltskanzlei möchte, dass ihr interner Assistent Mandantengespräche in einem festen Format mit fünf Teilen zusammenfasst. Mit Anweisungen allein klappt das Format meistens, aber nicht immer. Die Kanzlei trainiert ein Modell per Fine-Tuning mit einigen hundert früheren Zusammenfassungen ihrer Mitarbeitenden, und das angepasste Modell hält das Format zuverlässiger ein. Für Fakten wie die aktuelle Gebührenübersicht setzt die Kanzlei weiterhin auf Retrieval, weil sich solche Angaben im Lauf des Jahres ändern.
Warum es für Business-Chatbots wichtig ist
Bei den meisten Website-Chatbots geht es vor allem darum, korrekt aus den aktuellen Inhalten des Unternehmens zu antworten. Das gelingt mit Retrieval-Augmented Generation (RAG) meist besser als mit Fine-Tuning: Änderungen wirken, sobald die Inhalte neu indexiert sind, Antworten lassen sich auf Quellen zurückführen, und es braucht keinen Trainingsdatensatz. Fine-Tuning lohnt sich, wenn ein Unternehmen ein bestimmtes Verhalten braucht, das sich mit klaren Anweisungen und Beispielen nicht erreichen lässt, und Daten und Budget hat, um ein eigenes Modell zu pflegen.
| Fine-Tuning | RAG | |
|---|---|---|
| Was sich ändert | Die Gewichte des Modells | Der Text, den das Modell bekommt |
| Geeignet für | Stil, Format, eng umrissene Aufgaben | Fakten, Richtlinien, Produktinformationen |
| Wissen aktualisieren | Modell erneut trainieren | Inhalte bearbeiten und neu indexieren |
| Nachvollziehbarkeit | Schwer zu sagen, woher eine Antwort stammt | Antworten lassen sich auf Textstellen zurückführen |
Fine-Tuning und intoCHAT
intoCHAT nutzt kein Fine-Tuning. Wenn du einen intoCHAT-Agenten „trainierst“, verarbeitet intoCHAT deine Webseiten, Dateien, Textbausteine und Q&A-Paare zu durchsuchbaren Chunks mit Embeddings. Das zugrunde liegende Modell, ein von intoCHAT ausgewähltes und verwaltetes OpenAI-Modell, bleibt dabei unverändert. Deshalb greifen Änderungen, sobald du eine Quelle neu trainierst, ohne auf einen Trainingslauf zu warten. Ton und Verhalten steuerst du über die Anweisungen des Agenten und über Q&A-Paare für Antworten, die exakt stimmen müssen.