Ajustement fin

En une ligne : Entraîner un modèle existant sur des exemples supplémentaires pour le spécialiser dans un domaine, par exemple pour faire écrire ChatGPT dans le style de votre entreprise.

Qu’est-ce que le fine-tuning ?

Ajustement fin utilise un modèle préentraîné modèle de fondation et poursuit son entraînement sur votre propre jeu de données. Le résultat est un modèle qui a assimilé les schémas, le style et les conventions de votre domaine - il adopte ainsi le ton de votre marque, respecte vos règles de mise en forme ou comprend correctement la terminologie propre à votre produit, sans que ces consignes aient à figurer dans chaque prompt.

Ajustement fin, ingénierie des prompts et RAG

ApprocheCoûtAjoute de nouvelles connaissances ?Quand utiliser
Ingénierie des promptsGratuitNonLa plupart des tâches - Toujours essayer ceci d’abord
RAGFaible à moyenOui (récupéré)Grandes bases de connaissances, questions-réponses factuelles sur des documents
Ajustement finMoyen à élevéNon (style uniquement)Ton/format cohérents, réduction des coûts à grande échelle, domaines spécialisés

Quand le fine-tuning en vaut la peine

  • Style de réponse cohérent - Vous avez besoin de milliers de résultats dans un ton, un rôle ou un format précis qui ingénierie des prompts produit de façon irrégulière.
  • Domaines très spécialisés - Des notes médicales, des mémoires juridiques ou des documents financiers soumis à des exigences strictes de mise en forme que les modèles conversationnels ne respectent pas de manière fiable sans adaptation.
  • Réduire la longueur des prompts - Un modèle affiné 'connaît' les règles et n'a pas besoin d'un long prompt système à chaque fois, ce qui économise des tokens et réduit les coûts à grande échelle.
  • Économies d’échelle - Si vous effectuez des millions d’appels API, un modèle plus petit et affiné peut remplacer un modèle de pointe coûteux pour un coût 10 fois inférieur.

L’ajustement fin permet pas ajouter de nouvelles connaissances factuelles au modèle. Si vous avez besoin que le modèle connaisse des faits précis, utilisez RAG à la place. Le fine-tuning modifie le style et le comportement, et non les connaissances du modèle.

LoRA et ajustement fin économe en paramètres

L’ajustement fin complet met à jour chaque poids du modèle - une opération coûteuse en heures GPU et en stockage. LoRA (Low-Rank Adaptation) insère de petites matrices entraînables dans chaque couche et ne met à jour que celles-ci, en laissant le modèle de base figé. Cela réduit considérablement les coûts de calcul et de stockage tout en obtenant des résultats similaires pour la plupart des tâches. QLoRA y ajoute une quantification sur 4 bits, ce qui permet le fine-tuning sur un seul GPU grand public. La plupart des opérations de fine-tuning de modèles à poids ouverts comme Llama ou Mistral utilisent LoRA ou QLoRA. Voir aussi : paramètre, données d’entraînement.

Fournisseurs d’ajustement fin et coût

FournisseurModèle de baseCoût d’entraînementNotes
OpenAIGPT-4o, GPT-4o-mini~25 $/M de tokens d’entraînementService géré, aucun GPU nécessaire
AnthropicClaude HaikuContacter le service commercialRéservé aux entreprises
Together AILlama 3, Mistral1 $–5 $ par million de tokensPoids ouverts, prise en charge de LoRA
Replicate / RunPodTout modèle ouvertGPU à 0,50 $-2 $/hContrôle total, coût minimal

Consultez le page des tarifs et le Guides pratiques sur l'IA pour des guides pratiques sur le choix entre l’affinage, RAG, et la conception de prompts adaptés à votre usage.

Exemple d’ajustement fin

Si vous utilisez AskAI.free, une façon pratique de comprendre l’ajustement fin consiste à demander à un modèle de vous l’expliquer, puis de donner un exemple concret dans votre propre méthode de travail. Par exemple : "Explique l’ajustement fin à une personne qui utilise l’IA pour écrire, coder, faire des recherches ou créer des images."

Le terme passe ainsi d’une définition de dictionnaire à un outil d’aide à la décision : vous voyez dans quels cas il influe sur la qualité des instructions, le choix du modèle, la fiabilité des résultats, la confidentialité, le coût ou la quantité de contexte utilisable par l’IA.

Pourquoi l’ajustement fin est important

L’ajustement fin est important, car il influence votre façon de choisir, d’interroger, de comparer les systèmes d’IA ou de leur faire confiance. Comprendre ce terme vous permet de poser de meilleures questions, de repérer plus vite les réponses faibles et de choisir le modèle ou l’outil adapté à la tâche.

Une erreur courante consiste à considérer l’ajustement fin comme un terme de jargon isolé. Il est généralement lié à des notions voisines comme Modèle de fondation et GPT, consultez-les ensuite pour avoir une vue d'ensemble.

Erreur courante avec l'ajustement fin

L’erreur la plus courante consiste à employer le terme comme une étiquette sans changer ses pratiques. Quand il est question d’ajustement fin, demandez-vous ce qui doit changer : le prompt, le modèle, la longueur du contenu fourni, les preuves demandées ou la manière de vérifier la réponse.

Découvrez-le en action - Interrogez l’IA de votre choix sur l’ajustement fin sur AskAI.free.

Demander à l’IA