À quoi il sert
METR Time Horizons (taux de réussite) servait à noter la tâche Agents. Archivé faute de modèle récent mesuré, il ne sert plus qu'à situer les modèles plus anciens sur l'échelle commune.
AgentsFiche benchmark · METR · metr.org
Des tâches de logiciel, d'apprentissage automatique et de cybersécurité, dont on connaît la durée pour un professionnel humain.
METR Time Horizons (taux de réussite) servait à noter la tâche Agents. Archivé faute de modèle récent mesuré, il ne sert plus qu'à situer les modèles plus anciens sur l'échelle commune.
Score moyen de réussite, de 0 à 1, sur l'ensemble des tâches de METR ; c'est la valeur qu'Epoch retient pour son indice.
Ce score moyen est moins parlant que l'horizon en minutes publié par METR. Les tâches sont propres et bien définies, loin du désordre d'un vrai poste.
METR.
metr.org/time-horizons · tâche Agents · 39 modèles mesurés
En tête : Claude Mythos Preview, 85,2 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 62. Le meilleur, Claude Mythos Preview, atteint 85,2 %. Le benchmark est archivé, faute de modèle récent mesuré.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
0 %du score général. METR Time Horizons (taux de réussite) est archivé et ne compte plus : la tâche Agents (15 % du score général) repose sur 8 autres benchmarks.
En couleur, la tâche Agents dans le score général. METR Time Horizons (taux de réussite) n'y a plus de part.
↑↓ choisirEntrée ouvrirÉchap fermerTous les modèles, avec filtres