À quoi il sert
SimpleQA Verified alimente le dossier Données, suivi pour information : ce dossier n'a pas de score et n'entre pas dans le score général.
SimpleQA Verified alimente le dossier Données, suivi pour information : ce dossier n'a pas de score et n'entre pas dans le score général.
Part de réponses jugées correctes par un modèle correcteur, qui distingue aussi les erreurs et les refus de répondre.
Le score global traite un refus prudent comme une erreur, alors que la tendance à s'abstenir varie beaucoup d'un modèle à l'autre.
Google DeepMind pour le jeu de questions ; Epoch AI pour l'évaluation.
epoch.ai/benchmarks/simpleqa-verified · dossier Données · 73 modèles mesurés
En tête : GPT-6 Astra, 75,6 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 87. Le meilleur, GPT-6 Astra, atteint 75,6 %. Le benchmark sera dit saturé quand un modèle atteindra 95 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
0 %du score général. Données est un dossier sans score : ses benchmarks sont suivis pour information.