À quoi il sert
Sur Quelle IA, ForecastBench sert à noter la tâche Raisonnement : c'est l'un de ses 9 benchmarks.
RaisonnementFiche benchmark · Forecasting Research Institute · forecastbench.org
Prédire des événements à venir (marchés de prédiction, indicateurs économiques, conflits) en donnant une probabilité.
Sur Quelle IA, ForecastBench sert à noter la tâche Raisonnement : c'est l'un de ses 9 benchmarks.
Indice de Brier ajusté à la difficulté, de 0 à 100 : 100 pour des prévisions parfaites, 50 pour une réponse sans information.
Pour le calcul, ce score est ramené entre 0 et 1 : 50 %, le niveau du hasard, vaut 0 et 100 % vaut 1.
Aucune fuite possible puisque la réponse n'existe pas encore, mais les écarts sont minces (de 50 à 63) et il faut attendre l'issue des questions.
Forecasting Research Institute.
forecastbench.org · tâche Raisonnement · 77 modèles mesurés
En tête : o3, 62,5 %
Chaque trait est un modèle, placé à son meilleur score. Le test reste très dur : d'après sa courbe d'étalonnage, même un modèle de score IA 100 n'y obtient qu'environ 62 %. Le meilleur, o3, atteint 62,5 %. Le benchmark sera dit saturé quand un modèle atteindra 97,5 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,67 %du score général. ForecastBench porte 11 % de la tâche Raisonnement (15 % du score général), que se partagent 9 benchmarks.
En couleur, la tâche Raisonnement dans le score général. En noir, la part de ForecastBench.