À quoi il sert
Sur Quelle IA, Blueprint-Bench 2 sert à noter la tâche Vision et multimodal : c'est l'un de ses 3 benchmarks. Il départage surtout les modèles dont le score IA approche 99.
VisionFiche benchmark · Andon Labs · andonlabs.com
Dessiner le plan en 2D d'un appartement à partir d'une vingtaine de photos : pièces, portes, tailles relatives.
Sur Quelle IA, Blueprint-Bench 2 sert à noter la tâche Vision et multimodal : c'est l'un de ses 3 benchmarks. Il départage surtout les modèles dont le score IA approche 99.
Ressemblance entre le plan produit et le vrai, ramenée de 0 (hasard) à 1 (plan parfait) ; calcul automatique, sans IA correctrice.
Une cinquantaine d'appartements seulement. Les humains testés obtiennent environ 0,59 et le meilleur modèle 0,50.
Andon Labs.
andonlabs.com/evals/blueprint-bench-2 · tâche Vision · 26 modèles mesurés
En tête : GPT-6 Astra, 49,7 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 99. Le meilleur, GPT-6 Astra, atteint 49,7 %. Le benchmark sera dit saturé quand un modèle atteindra 95 %.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,67 %du score général. Blueprint-Bench 2 porte 33 % de la tâche Vision et multimodal (5 % du score général), que se partagent 3 benchmarks.
En couleur, la tâche Vision et multimodal dans le score général. En noir, la part de Blueprint-Bench 2.