Skip to main content
Utilisez Serverless SFT pour effectuer le fine-tuning d’un LLM par apprentissage supervisé, à partir d’exemples d’entrées et de sorties soigneusement sélectionnés. Serverless SFT entraîne un adaptateur de faible rang (LoRA) qui spécialise un modèle de base pour votre tâche, stocke l’adaptateur sous forme d’artifact dans votre compte Weights & Biases et héberge chaque point de contrôle sur Serverless Inference. Serverless SFT est disponible en préversion publique. Vous pouvez exécuter Serverless SFT via le framework ART d’OpenPipe ou directement via l’API Serverless Training.

​
Prérequis

Avant de commencer, assurez-vous de disposer des éléments suivants :
  • Un compte Forge. Si vous n’en avez pas, inscrivez-vous.
  • Une clé API. Dans Forge, cliquez sur l’icône de votre profil, sélectionnez Settings, puis cliquez sur Create new API key. Copiez la clé dès qu’elle s’affiche, car vous ne pourrez plus la consulter par la suite. Les exemples de cette documentation la lisent dans la variable d’environnement WANDB_API_KEY ; le guide de démarrage rapide d’ART indique où ART s’attend à la trouver.
  • Un projet dans Weights & Biases pour enregistrer les métriques d’entraînement et stocker l’adaptateur entraîné. Voir Projects.
  • Un jeu de données composé d’exemples d’entrées et de sorties qui illustrent le comportement que le modèle doit apprendre. La documentation Serverless SFT d’ART décrit le format attendu.
  • Le framework ART, si vous l’utilisez au lieu d’appeler directement l’API. Suivez les étapes d’installation du guide de démarrage rapide d’ART.
Consultez également la page Informations d’utilisation et limites pour connaître les coûts et les restrictions, puis choisissez un modèle de base parmi les modèles disponibles.

​
Quand utiliser Serverless SFT

Serverless SFT est particulièrement adapté lorsque vous disposez d’exemples du comportement souhaité, ou que vous êtes en mesure d’en produire :
  • Distillation : transférez les connaissances d’un modèle plus grand et plus performant vers un modèle plus petit et plus rapide, en entraînant ce dernier sur les sorties du grand modèle.
  • Apprentissage d’un style et d’un format de sortie : entraînez un modèle à respecter un format de réponse, un ton ou une structure spécifique.
  • Préparation avant le RL : fournissez à un modèle des exemples supervisés avant de l’affiner avec Serverless RL.
Si vous savez évaluer un résultat, mais pas rédiger à l’avance la réponse idéale, utilisez plutôt Serverless RL.

​
Entraîner un modèle

ART encapsule l’API Serverless Training et gère pour vous les jeux de données, les runs d’entraînement et les points de contrôle. C’est la méthode recommandée pour commencer. Suivez la documentation ART Serverless SFT pour préparer votre jeu de données et lancer une tâche d’entraînement.

​
Après l’entraînement

Chaque point de contrôle que vous entraînez est automatiquement hébergé. Pour lui envoyer des requêtes d’inférence, construisez le point de terminaison du modèle à partir de votre équipe, de votre projet, du nom du modèle et de l’étape d’entraînement, comme indiqué dans Utiliser vos modèles entraînés. Ce format de point de terminaison s’applique également aux modèles entraînés avec Serverless SFT et Serverless RL. Pour libérer de l’espace de stockage, supprimez les points de contrôle dont vous n’avez plus besoin. Voir Informations d’utilisation et limites
Dernière modification le 30 septembre 2026