À quoi il sert
Sur Quelle IA, GPQA Diamond sert à noter la tâche Sciences et savoir expert : c'est l'un de ses 5 benchmarks. Il départage surtout les modèles dont le score IA approche 61.
Sur Quelle IA, GPQA Diamond sert à noter la tâche Sciences et savoir expert : c'est l'un de ses 5 benchmarks. Il départage surtout les modèles dont le score IA approche 61.
Part de bonnes réponses sur 198 questions à quatre choix ; répondre au hasard donne 25 %.
Pour le calcul, ce score est ramené entre 0 et 1 : 25 %, le niveau du hasard, vaut 0 et 100 % vaut 1.
Les meilleurs modèles atteignent 95 % quand des experts humains font environ 70 % : le test est saturé et ses questions circulent en ligne.
Epoch AI pour l'évaluation ; questions de Rein et al. (université de New York, 2023).
epoch.ai/benchmarks/gpqa-diamond · tâche Sciences · 208 modèles mesurés
En tête : GPT-6 Astra, 95,8 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 62 % a un score IA d'environ 61. Le meilleur, GPT-6 Astra, atteint 95,8 %. Le benchmark sera dit saturé quand un modèle atteindra 96,2 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
2 %du score général. GPQA Diamond porte 20 % de la tâche Sciences et savoir expert (10 % du score général), que se partagent 5 benchmarks.
En couleur, la tâche Sciences et savoir expert dans le score général. En noir, la part de GPQA Diamond.