À quoi il sert
Sur QUELLE IA, OSWorld 2.0 sert à noter la tâche Agents : c'est l'un de ses 8 benchmarks. Il départage surtout les modèles dont le score IA approche 101.
AgentsFiche benchmark · XLANG Lab (université de Hong Kong) · osworld-v2.xlang.ai
108 longues tâches sur un vrai ordinateur, dans des logiciels professionnels, qui prennent environ une heure et demie à une personne compétente.
Sur QUELLE IA, OSWorld 2.0 sert à noter la tâche Agents : c'est l'un de ses 8 benchmarks. Il départage surtout les modèles dont le score IA approche 101.
Part de tâches entièrement réussies avec un budget de 500 étapes ; un score partiel compte les points de contrôle validés.
Scores bas en tout ou rien, 31 % au mieux. Les résultats dépendent du réglage des outils et du niveau de réflexion choisi.
XLANG Lab (université de Hong Kong).
osworld-v2.xlang.ai · tâche Agents · 9 modèles mesurés
En tête : Claude Opus 5, 31,4 %
Chaque trait est un modèle, placé à son meilleur score. Un modèle qui obtient 50 % a un score IA d'environ 101. Le meilleur, Claude Opus 5, atteint 31,4 %. Le benchmark sera dit saturé quand un modèle atteindra 95 %. Avec 9 modèles mesurés seulement, cet étalonnage reste fragile.
Valeurs lues sur la courbe d'étalonnage du benchmark, qui relie le score publié au score IA. La démarche
1,88 %du score général. OSWorld 2.0 porte 13 % de la tâche Agents (15 % du score général), que se partagent 8 benchmarks.
En couleur, la tâche Agents dans le score général. En noir, la part d'OSWorld 2.0.
9 modèles mesurés, chacun à sa meilleure configuration. « Équivaut à » : le score IA que ce seul résultat donnerait au modèle.
↑↓ choisirEntrée ouvrirÉchap fermerTous les modèles, avec filtres