À quoi il sert
Sur QUELLE IA, FrontierCode sert à noter la tâche Code : c'est l'un de ses 12 benchmarks. Il départage surtout les modèles dont le score IA approche 95.
CodeFiche benchmark · Cognition · cognition.com
Produire, pour un vrai ticket d'un projet open source, un correctif assez propre pour être accepté par les responsables du projet.
Sur QUELLE IA, FrontierCode sert à noter la tâche Code : c'est l'un de ses 12 benchmarks. Il départage surtout les modèles dont le score IA approche 95.
Note moyenne sur cinq essais selon une grille pondérée, sur les 100 tâches les plus dures ; un seul critère bloquant manqué donne zéro.
Classement tenu par Cognition, éditeur de l'agent Devin, qui y figure. Le score retenu est celui du meilleur réglage de chaque modèle, avec des harnais différents.
Cognition.
cognition.com/frontiercode · tâche Code · 46 modèles mesurés
En tête : Claude Opus 5.5, 54,6 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 95. Le meilleur, Claude Opus 5.5, atteint 54,6 %. Le benchmark sera dit saturé quand un modèle atteindra 95 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,25 %du score général. FrontierCode porte 8 % de la tâche Code (15 % du score général), que se partagent 12 benchmarks.
En couleur, la tâche Code dans le score général. En noir, la part de FrontierCode.
Chaque mesure de ce benchmark est faite avec un outil qui pilote le modèle : devin-cli (13 mesures, écriture non rangée), Claude Code (11 mesures, outil grand public), Codex CLI (9 mesures, outil grand public), mini-SWE-agent (7 mesures, outil de banc d'essai), Grok Build (3 mesures, outil grand public), chisel (1 mesure, autre agent), Cursor CLI (1 mesure, outil grand public), Devin (1 mesure, outil grand public).
↑↓ choisirEntrée ouvrirÉchap fermerTous les modèles, avec filtres