Passer au contenu principal

​
Fine-tuning

Le fine-tuning poursuit l’entraînement d’un modèle de base pris en charge à partir d’exemples propres à une tâche. Il peut renforcer des schémas de réponse, une terminologie, un style ou une structure de sortie. Il n’ajoute pas automatiquement des connaissances fiables et actuelles, et ne garantit pas de meilleurs résultats. La prise en charge varie selon les modèles et les fournisseurs. Avant de préparer un jeu de données, vérifiez les modèles de base disponibles, le format des données, les limites et les coûts dans votre configuration B-Bot Hub.

​
Choisir la bonne méthode

Prompt système

À utiliser pour les instructions, les priorités, le ton, les limites et les comportements susceptibles d’évoluer.

Recherche dans les connaissances

À utiliser pour les sources qui doivent rester actuelles, traçables ou faciles à remplacer.

Fine-tuning

À utiliser pour des exemples répétés du comportement ou du schéma de sortie que le modèle doit apprendre.
Commencez par améliorer le prompt et les connaissances. Envisagez le fine-tuning lorsque la tâche est stable, que l’écart est mesurable, que vous disposez d’exemples représentatifs et qu’un modèle compatible est disponible.

​
Workflow de fine-tuning

1

Définir l’objectif

Formulez un objectif d’amélioration précis, comme le respect d’un schéma de réponse ou l’application d’un style de support cohérent.
2

Créer un jeu d’évaluation

Préparez des cas de test représentatifs avant l’entraînement. Séparez-les des exemples d’entraînement.
3

Préparer les exemples

Utilisez des entrées claires et des sorties idéales validées. Incluez des cas normaux, des cas difficiles et des refus appropriés.
4

Examiner le jeu de données

Supprimez les doublons, les contradictions, les données sensibles, les informations obsolètes et les exemples qui récompensent des affirmations non étayées.
5

Entraîner une version

Sélectionnez un modèle de base pris en charge et utilisez les contrôles d’entraînement disponibles dans B-Bot Hub.
6

Comparer et décider

Évaluez les versions de base et entraînée sur les mêmes cas réservés. N’adoptez la version entraînée que si elle améliore l’objectif défini sans régressions inacceptables.

​
Principes relatifs au jeu de données

  • Représentatif : correspond aux entrées réelles, y compris leur longueur et leur ambiguïté.
  • Cohérent : résout les contradictions de ton, de politique et de comportement attendu.
  • Complet : inclut suffisamment de contexte pour obtenir la réponse souhaitée.
  • Actuel : exclut les politiques, informations produit et liens obsolètes.
  • Sûr : exclut les secrets et données personnelles, sauf si leur collecte et leur utilisation sont approuvées.
  • Équilibré : inclut les cas où le bon comportement consiste à demander, refuser ou transmettre.
Aucun nombre universel d’exemples ne garantit un modèle utile. Commencez par un jeu de données validé, mesurez le résultat, puis ajoutez des exemples qui corrigent les lacunes observées.

​
Évaluation

Évaluez séparément les dimensions suivantes :
  • Réussite de la tâche et exactitude factuelle
  • Respect des instructions et du format
  • Expression appropriée de l’incertitude et refus
  • Robustesse face aux reformulations et aux cas limites
  • Régressions hors du comportement ciblé
  • Latence et coût dans l’environnement prévu
Consignez la version du jeu de données, le modèle de base, la configuration et les résultats de l’évaluation afin que la décision puisse être reproduite.

​
Erreurs courantes

Les informations qui changent fréquemment sont généralement plus faciles à maintenir dans une source de connaissances ou dans le contexte de la demande.
Cela mesure la mémorisation, et non les performances sur de nouvelles demandes. Conservez un jeu d’évaluation distinct.
Les exemples générés peuvent contenir des erreurs et des schémas répétitifs. Examinez-les avant l’entraînement.
La réussite d’une tâche d’entraînement ne prouve pas un meilleur comportement. Comparez le résultat au modèle de base.

​
Guides associés

Guide d’entraînement

Utilisez l’interface d’entraînement de B-Bot Hub.

Distillation de modèle

Découvrez comment des exemples générés par un modèle enseignant peuvent enrichir un jeu de données de fine-tuning.