À quoi il sert
Sur Quelle IA, Mystery Game Puzzles sert à noter la tâche Raisonnement : c'est l'un de ses 9 benchmarks. Il départage surtout les modèles dont le score IA approche 95.
RaisonnementFiche benchmark · Epoch AI · epoch.ai
100 positions d'un jeu dont Epoch tait le nom, décrites en texte, où le modèle doit trouver le meilleur coup.
Sur Quelle IA, Mystery Game Puzzles sert à noter la tâche Raisonnement : c'est l'un de ses 9 benchmarks. Il départage surtout les modèles dont le score IA approche 95.
Part de positions où le coup soumis correspond à la solution ; un coup invalide compte comme faux.
Pour le calcul, ce score est ramené entre 0 et 1 : 9 %, le niveau du hasard, vaut 0 et 100 % vaut 1.
Ni le nom du jeu, ni les consignes, ni les transcriptions ne sont publiés. Cela limite les fuites mais empêche toute vérification extérieure.
Epoch AI.
epoch.ai/benchmarks/mystery-game-puzzles · tâche Raisonnement · 69 modèles mesurés
En tête : GPT-6 Astra, 84 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 55 % a un score IA d'environ 95. Le meilleur, GPT-6 Astra, atteint 84 %. Le benchmark sera dit saturé quand un modèle atteindra 95,5 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,67 %du score général. Mystery Game Puzzles porte 11 % de la tâche Raisonnement (15 % du score général), que se partagent 9 benchmarks.
En couleur, la tâche Raisonnement dans le score général. En noir, la part de Mystery Game Puzzles.