Zum Hauptinhalt springen

​
Fine-Tuning

Beim Fine-Tuning wird das Training eines unterstützten Basismodells mit Beispielen für eine bestimmte Aufgabe fortgesetzt. Dadurch lassen sich Antwortmuster, Terminologie, Stil oder Ausgabestruktur verstärken. Fine-Tuning fügt nicht automatisch verlässliches, aktuelles Wissen hinzu und garantiert keine besseren Ergebnisse. Die Unterstützung durch Modelle und Anbieter variiert. Prüfe vor der Vorbereitung eines Datensatzes die verfügbaren Basismodelle, Datenformate, Grenzen und Kosten in deiner B-Bot Hub-Konfiguration.

​
Die richtige Methode wählen

System-Prompt

Verwende ihn für Anweisungen, Prioritäten, Tonalität, Grenzen und veränderliches Verhalten.

Wissensabruf

Verwende ihn für Quellmaterial, das aktuell, nachvollziehbar oder leicht austauschbar bleiben muss.

Fine-Tuning

Verwende es für wiederholte Beispiele des Verhaltens oder Ausgabemusters, das das Modell lernen soll.
Verbessere zunächst Prompt und Wissen. Ziehe Fine-Tuning in Betracht, wenn du eine stabile Aufgabe, eine messbare Lücke, repräsentative Beispiele und ein unterstütztes Modell hast.

​
Fine-Tuning-Workflow

1

Ziel definieren

Formuliere ein eng gefasstes Verbesserungsziel, etwa die Einhaltung eines Antwortschemas oder eines einheitlichen Supportstils.
2

Bewertungssatz erstellen

Bereite vor dem Training repräsentative Testfälle vor. Halte sie von den Trainingsbeispielen getrennt.
3

Beispiele vorbereiten

Verwende klare Eingaben und geprüfte Idealausgaben. Berücksichtige normale und schwierige Fälle sowie angemessene Ablehnungen.
4

Datensatz prüfen

Entferne Duplikate, Widersprüche, sensible Daten, veraltete Fakten und Beispiele, die unbelegte Behauptungen belohnen.
5

Eine Version trainieren

Wähle ein unterstütztes Basismodell und nutze die in B-Bot Hub verfügbaren Trainingskontrollen.
6

Vergleichen und entscheiden

Bewerte Basis- und trainierte Version anhand derselben zurückgehaltenen Fälle. Übernimm die trainierte Version nur, wenn sie das definierte Ziel ohne unvertretbare Rückschritte verbessert.

​
Grundsätze für Datensätze

  • Repräsentativ: Entspricht echten Eingaben einschließlich ihrer Länge und Mehrdeutigkeit.
  • Konsistent: Löst Widersprüche bei Tonalität, Richtlinien und erwartetem Verhalten auf.
  • Vollständig: Enthält genügend Kontext für die gewünschte Antwort.
  • Aktuell: Entfernt veraltete Richtlinien, Produktdetails und Links.
  • Sicher: Schließt Geheimnisse und personenbezogene Daten aus, sofern ihre Erfassung und Nutzung nicht genehmigt sind.
  • Ausgewogen: Enthält Fälle, in denen Nachfragen, Ablehnen oder Eskalieren das richtige Verhalten ist.
Es gibt keine allgemeingültige Anzahl an Beispielen, die ein nützliches Modell garantiert. Beginne mit einem geprüften Datensatz, miss das Ergebnis und ergänze Beispiele für beobachtete Lücken.

​
Bewertung

Bewerte die Dimensionen getrennt:
  • Aufgabenerfolg und sachliche Richtigkeit
  • Einhaltung von Anweisungen und Format
  • Angemessene Unsicherheit und Ablehnung
  • Robustheit gegenüber Umformulierungen und Randfällen
  • Rückschritte außerhalb des Zielverhaltens
  • Latenz und Kosten in der vorgesehenen Umgebung
Dokumentiere Datensatzversion, Basismodell, Konfiguration und Bewertungsergebnisse, damit die Entscheidung reproduzierbar ist.

​
Häufige Fehler

Häufig wechselnde Fakten lassen sich meist leichter in einer Wissensquelle oder im Anfragekontext pflegen.
Das misst Auswendiglernen statt der Leistung bei neuen Anfragen. Verwende einen separaten Bewertungssatz.
Erzeugte Beispiele können Fehler und wiederkehrende Muster enthalten. Prüfe sie vor dem Training.
Ein abgeschlossenes Training ist kein Beleg für besseres Verhalten. Vergleiche das Ergebnis mit dem Basismodell.

​
Zugehörige Leitfäden

Trainingsleitfaden

Nutze die Trainingsoberfläche von B-Bot Hub.

Modelldestillation

Erfahre, wie von einem Lehrermodell erzeugte Beispiele einen Fine-Tuning-Datensatz unterstützen können.