À quoi il sert
Sur QUELLE IA, GPQA Diamond sert à noter la tâche Sciences et savoir expert : c'est l'un de ses 5 benchmarks. Il départage surtout les modèles dont le score IA approche 60.
SciencesFiche benchmark · Epoch AI pour l'évaluation ; questions de Rein et al. (université de New York, 2023) · epoch.ai
Des questions à choix multiples de biologie, chimie et physique, écrites par des docteurs et trop dures pour un non-spécialiste.
Sur QUELLE IA, GPQA Diamond sert à noter la tâche Sciences et savoir expert : c'est l'un de ses 5 benchmarks. Il départage surtout les modèles dont le score IA approche 60.
Part de bonnes réponses sur 198 questions à quatre choix ; répondre au hasard donne 25 %.
Pour le calcul, ce score est ramené entre 0 et 1 : 25 %, le niveau du hasard, vaut 0 et 97 %, le plafond retenu, vaut 1.
Les meilleurs modèles atteignent 95 % quand des experts humains font environ 70 % : le test est saturé et ses questions circulent en ligne.
Epoch AI pour l'évaluation ; questions de Rein et al. (université de New York, 2023).
epoch.ai/benchmarks/gpqa-diamond · tâche Sciences · 227 modèles mesurés
En tête : Gemini 4 Argon, 96,4 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 61 % a un score IA d'environ 60. Le meilleur, Gemini 4 Argon, atteint 96,4 %. Le seuil de saturation (93,4 %) est franchi : au sommet, les meilleurs modèles ne se départagent plus.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
2 %du score général. GPQA Diamond porte 20 % de la tâche Sciences et savoir expert (10 % du score général), que se partagent 5 benchmarks. Saturé, il garde ce poids, mais il ne départage presque plus les meilleurs modèles.
En couleur, la tâche Sciences et savoir expert dans le score général. En noir, la part de GPQA Diamond.
↑↓ choisirEntrée ouvrirÉchap fermerTous les modèles, avec filtres