IA constitutionnelle
En une ligne : La méthode d'entraînement d'Anthropic dans laquelle Claude est entraîné selon une « constitution » écrite de valeurs - Plutôt qu'à partir de retours humains ponctuels pour chaque exemple.
Qu’est-ce que l’IA constitutionnelle ?
IA constitutionnelle (CAI) est l’approche Anthropic utilise pour entraîner Claude. Au lieu de faire évaluer chaque réponse par des humains - une méthode coûteuse, lente et irrégulière - CAI utilise une liste écrite de principes appelée « constitution », dont le modèle se sert pour critiquer et réviser ses propres résultats pendant l'entraînement.
L’idée centrale est qu’un modèle suffisamment performant peut évaluer ses propres réponses à l’aune d’un ensemble de principes et produire ainsi le type de retour qui nécessiterait autrement des milliers d’annotations humaines. C’est ce qu’on appelle RLAIF (Apprentissage par renforcement à partir de retours d’IA) - Une extension à grande échelle du RLHF, plus connu (Apprentissage par renforcement à partir de retours humains).
La boucle d'entraînement CAI
- Générer - Le modèle produit une réponse à une requête potentiellement nuisible ou ambiguë.
- Critique - On demande au modèle d’évaluer sa propre réponse au regard de la constitution : « Cette réponse aide-t-elle à faire quelque chose de dangereux ? Est-elle honnête ? Respecte-t-elle l’autonomie humaine ? »
- Réviser - À partir de sa critique, le modèle réécrit la réponse pour mieux respecter les principes constitutionnels.
- Entraîner - Les réponses révisées sont utilisées comme données de préférence données d’entraînement, en apprenant au modèle à produire des réponses conformes à la constitution sans qu'il soit nécessaire de le lui demander explicitement à chaque fois.
- Affiner - Le cycle se répète sur de nombreuses versions du modèle, renforçant progressivement alignement dans son comportement.
Exemples de principes tirés de la constitution publiée par Anthropic : « Choisissez la réponse la moins susceptible de contenir des informations fausses ou trompeuses. » « Choisissez la réponse qu’un cadre expérimenté et réfléchi Anthropic jugerait optimale au regard des objectifs de l’utilisateur et d’Anthropic. »
CAI ou RLHF
| Caractéristique | RLHF | IA constitutionnelle (CAI) |
|---|---|---|
| Source des retours | Des évaluateurs humains comparent des paires de réponses | Autocritique du modèle à partir de principes écrits |
| Coût | Élevé - Nécessite une importante équipe d'annotation | Plus faible - l’IA génère la plupart des retours |
| Cohérence | Variable - Les évaluateurs ne sont pas d'accord et ont des biais | Plus cohérent - Les mêmes principes appliqués uniformément |
| Auditabilité | Difficile à auditer - Les décisions des évaluateurs sont implicites | Explicite - La constitution est un document lisible |
| Capacité de montée en charge | Limité par la capacité des annotateurs humains | Évolue avec la puissance de calcul, pas avec les effectifs |
| Utilisé par | OpenAI (ChatGPT), la plupart des grands laboratoires | Anthropic (Claude) |
Pourquoi c’est important pour les utilisateurs
Vous constatez les effets de la CAI chaque fois que vous utilisez Claude. Cet entraînement façonne sa personnalité distinctive de manière perceptible :
- Claude tend à examiner les cas limites avec réflexion plutôt qu’à opposer un refus standard.
- En cas d’incertitude, il le signale au lieu d’inventer : cela reflète directement les principes d’honnêteté de sa constitution.
- Il traite les sujets sensibles avec nuance au lieu de les éviter systématiquement, car sa constitution accorde la priorité à une aide véritable tout en évitant les préjudices.
Anthropic a publié l'article original sur la CAI en 2022. Depuis, cette approche a influencé la réflexion d'autres laboratoires sur la supervision à grande échelle et alignement entraînement - Ce qui en fait l’une des idées les plus marquantes de la recherche récente sur la sécurité de l’IA.
Exemple d’IA constitutionnelle
Si vous utilisez AskAI.free, une façon pratique de comprendre l’IA constitutionnelle consiste à demander à un modèle de vous l’expliquer, puis de donner un exemple concret dans votre propre méthode de travail. Par exemple : "Explique l’IA constitutionnelle à une personne qui utilise l’IA pour écrire, coder, faire des recherches ou créer des images."
Le terme passe ainsi d’une définition de dictionnaire à un outil d’aide à la décision : vous voyez dans quels cas il influe sur la qualité des instructions, le choix du modèle, la fiabilité des résultats, la confidentialité, le coût ou la quantité de contexte utilisable par l’IA.
Pourquoi l’IA constitutionnelle est importante
L’IA constitutionnelle est importante, car elle change votre façon de choisir, de solliciter et de comparer les systèmes d’IA, ou de leur faire confiance. Comprendre ce terme vous aide à poser de meilleures questions, à repérer plus vite les réponses peu convaincantes et à choisir le modèle ou l’outil adapté à la tâche.
Une erreur courante consiste à considérer l’IA constitutionnelle comme un terme de jargon isolé. Elle est généralement liée à des notions voisines comme Fenêtre de contexte et Plongement vectoriel, consultez-les ensuite pour avoir une vue d'ensemble.
Erreur courante concernant l'IA constitutionnelle
L’erreur la plus courante consiste à employer le terme comme une étiquette sans changer ses pratiques. Quand il est question d’IA constitutionnelle, demandez-vous ce qui doit changer : le prompt, le modèle, la longueur du contenu fourni, les preuves demandées ou la manière de vérifier la réponse.
Découvrez-le en action - Interrogez l’IA de votre choix sur l’IA constitutionnelle sur AskAI.free.
Demander à l’IA