Un modèle de réflexion prend un temps avant de répondre. Il commence par écrire un brouillon : il pose le problème, essaie une piste, vérifie, corrige. Ce brouillon est fait de jetons de réflexion, et c’est seulement ensuite qu’il rédige la réponse que vous lisez.
Comment ça marche
Le brouillon reste le plus souvent caché. OpenAI l’écrit dans sa documentation : les jetons de réflexion ne sont pas visibles par l’API, ils occupent de la place dans la fenêtre de contexte et ils se facturent comme des jetons de sortie, donc au prix de la réponse.
La longueur du brouillon se règle par un niveau d’effort. Chez Anthropic, il va de low (faible) à max (maximal), en passant par medium, high et xhigh. Dans l’appli Gemini, Google propose Faible, Moyen et Élevé. Plus l’effort monte, plus le modèle réfléchit longtemps.
À quoi ça sert
La réflexion aide là où il faut enchaîner plusieurs étapes sans se tromper :
- un problème de maths ou de logique ;
- un bug à trouver dans du code ;
- un plan en plusieurs étapes, comme organiser un voyage avec des contraintes de dates et de budget ;
- une analyse de document qui demande de croiser plusieurs passages.
Pour une question simple (une traduction, une définition, un courriel à reformuler), elle n’apporte presque rien et vous fait attendre. Anthropic conseille d’ailleurs l’effort faible pour les tâches simples où la vitesse et le coût comptent.
Ce que ça coûte
Dans une appli, la réflexion consomme plus vite votre quota : Google prévient que les niveaux de raisonnement élevés utilisent davantage les limites de votre forfait. Par l’API, chaque jeton de brouillon se paie. Anthropic note qu’au niveau maximal, son modèle Claude Fable 5.2 est plus lent et plus cher qu’au niveau juste en dessous, souvent pour un petit gain.
Bon à savoir. Les classements de QUELLE IA retiennent, sur chaque benchmark, la meilleure configuration mesurée de chaque modèle, et ce peut être celle qui réfléchit le plus. Avec un effort plus bas, le même modèle peut faire moins bien que son score.
Pour régler l’effort outil par outil, et savoir quand le monter ou le baisser, lisez le guide Quel effort choisir.
Pour aller plus loin
- Glossaire
- Classement Raisonnement des modèles de langage
- Classement Maths des modèles de langage
- La démarche
- Quel effort de réflexion choisir pour une IA, et quandNiveau Amateur 10 min
- Jetons, prix au million et vrai coût d'une tâcheNiveau Amateur 5 min
- Benchmark d'IA : ce qu'il mesure et pourquoi il satureNiveau Amateur 4 min
- Fenêtre de contexte : ce que veut dire « 1 million de jetons »Niveau Débutant 2 min
- Lire le score de QUELLE IA : marge, rang et ex æquoNiveau Débutant 3 min
- Paramètres et paramètres actifs : la taille d'une IANiveau Débutant 2 min
Pour monter son atelier d'IA à la maison, mini lab AI, du même auteur, va plus loin.
Sources
- developers.openai.com, lue le
- platform.claude.com, lue le
- support.google.com, lue le
