À quoi il sert
Sur Quelle IA, OTIS Mock AIME 2024-2025 sert à noter la tâche Mathématiques : c'est l'un de ses 8 benchmarks. Il départage surtout les modèles dont le score IA approche 62.
MathsFiche benchmark · Epoch AI ; problèmes écrits par des élèves du programme OTIS · epoch.ai
45 problèmes de concours de mathématiques, plus durs que MATH Level 5, dont la réponse est un entier entre 0 et 999.
Sur Quelle IA, OTIS Mock AIME 2024-2025 sert à noter la tâche Mathématiques : c'est l'un de ses 8 benchmarks. Il départage surtout les modèles dont le score IA approche 62.
Part de réponses exactes sur les 45 problèmes, tirés de trois examens blancs.
Avec 45 problèmes, un seul pèse plus de deux points. Plusieurs modèles atteignent 100 % et les énoncés sont publics.
Epoch AI ; problèmes écrits par des élèves du programme OTIS.
epoch.ai/benchmarks/otis-mock-aime-2024-2025 · tâche Maths · 190 modèles mesurés
En tête : 9 modèles, 100 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 62. 9 modèles partagent la première place avec 100 %. Le seuil de saturation (95 %) est franchi : au sommet, les meilleurs modèles ne se départagent plus.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,25 %du score général. OTIS Mock AIME 2024-2025 porte 13 % de la tâche Mathématiques (10 % du score général), que se partagent 8 benchmarks. Saturé, il garde ce poids, mais il ne départage presque plus les meilleurs modèles.
En couleur, la tâche Mathématiques dans le score général. En noir, la part d'OTIS Mock AIME 2024-2025.