Aller au contenu
EN 4 QUESTIONSTrouver mon modèle
Fiche modèle · édition du

Llama 2-⁠70B

Meta AI · États-Unis · sorti le Meta AI · États-Unis · 18 juillet 2023

  • Poids ouverts
  • Ryzen AI Max 64 Go
15,5de 2,3 à 28,7Rang 250 · 75 %?
Empreinte?
Raisonnement11,5Code14,2AgentsUsage15,5Maths15,2Sciences15,5Français20,3VisionÉcriture14,4Web

Son bilan?

  • Au classement général, 250e sur 257, dans un peloton de 16 modèles que la marge d'erreur ne permet pas de séparer.
  • Pas encore classé en raisonnement, code, maths et sciences : trop peu de mesures.
  • Pas encore mesuré en tâches d'agent, compréhension d'images et création web.

Score général?

15,5de 2,3 à 28,7

Rang250Groupe 13, ex æquoCouverture75 %15 mesures

Pourquoi ce score ? →Comment lire un score →

Peut-il tourner chez vous ?ESTIMATION

Tient à partir d'une machine Ryzen AI Max de 64 Go (48 Go utiles), en version allégée à 4 bits, par exemple une machine à Ryzen AI Max+ 395 de 64 Go. Mémoire estimée : 47,6 Go.

Mémoire selon la versionAllégée, 4 bits47,6 GoAllégée, 8 bits83,3 GoComplète, 16 bits158,7 GoLe pointillé marque 48 Go, la mémoire utile d'une machine Ryzen AI Max de 64 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de générationEstimation pour un contexte court : le débit mémoire de chaque machine divisé par ce que le modèle relit à chaque jeton dans la version qui y tient, ramené à ce que donnent les 7 mesures publiées qui servent d'étalon. Dans chaque famille, la plus petite machine à débit publié où il tient, la moins rapide à mémoire égale. Comment on l’estime.

Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.

Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.

Fiche technique

Prix
Non communiqué
Fenêtre de contexte
Non communiqué
Entrées
Non communiqué
Réflexion
Non communiqué
Paramètres
69 milliards
Licence
Poids ouvertspoids ouverts, téléchargeables
Classe énergétique
Non communiquée
Hébergement en Europe
Non communiqué
Connaissances jusqu'à
Non communiqué

Où le trouver

Liens directs, sans affiliation

Toutes les mesures

62 mesures · d'où vient le score
BenchmarkRésultatÉquivaut à?RéflexionÉtatSource
TriviaQA87,6 %92,0InconnueARCHIVÉepoch.ai
TriviaQA87,5 %91,2InconnueARCHIVÉepoch.ai
TriviaQA85 %71,3InconnueARCHIVÉepoch.ai
TriviaQA85 %71,3InconnueARCHIVÉepoch.ai
TriviaQA82,4 %53,4InconnueARCHIVÉepoch.ai
HellaSwag85,3 %35,4InconnueARCHIVÉepoch.ai
LAMBADA78,9 %25,8InconnueARCHIVÉepoch.ai
LAMBADA78,9 %25,8InconnueARCHIVÉepoch.ai
BoolQ88,6 %31,8InconnueARCHIVÉepoch.ai
BoolQ87,7 %27,3InconnueARCHIVÉepoch.ai
Voir les 50 autres mesures
ARC (AI2 Reasoning Challenge)78,3 %24,9InconnueARCHIVÉepoch.ai
BoolQ85 %14,9InconnueARCHIVÉepoch.ai
BoolQ85 %14,9InconnueARCHIVÉepoch.ai
GSM8K69,6 %19,5InconnueARCHIVÉepoch.ai
PIQA82,8 %20,7InconnueARCHIVÉepoch.ai
PIQA82,8 %20,7InconnueARCHIVÉepoch.ai
PIQA82,8 %20,7InconnueARCHIVÉepoch.ai
PIQA82,6 %18,6InconnueARCHIVÉepoch.ai
GSM8K63,3 %13,5InconnueARCHIVÉepoch.ai
WinoGrande80,2 %30,2InconnueARCHIVÉepoch.ai
MMLU69,9 %24,9InconnueARCHIVÉepoch.ai
MMLU69,8 %24,7InconnueARCHIVÉepoch.ai
MMLU69,5 %24,1InconnueARCHIVÉepoch.ai
GSM8K58,7 %9,3InconnueARCHIVÉepoch.ai
MMLU68,9 %23,0InconnueARCHIVÉepoch.ai
GSM8K56,8 %7,7InconnueARCHIVÉepoch.ai
GSM8K56,8 %7,7InconnueARCHIVÉepoch.ai
BIG-Bench Hard (BBH)64,9 %21,4InconnueARCHIVÉepoch.ai
GSM8K48,4 %0,5InconnueARCHIVÉepoch.ai
GSM8K47,1 %-0,7InconnueARCHIVÉepoch.ai
OpenBookQA60,2 %-3,5InconnueARCHIVÉepoch.ai
MMLU59,9 %7,0InconnueARCHIVÉepoch.ai
MMLU59,4 %6,1InconnueARCHIVÉepoch.ai
BIG-Bench Hard (BBH)58,5 %12,8InconnueARCHIVÉepoch.ai
ARC (AI2 Reasoning Challenge)57,4 %-6,2InconnueARCHIVÉepoch.ai
ARC (AI2 Reasoning Challenge)57,4 %-6,2InconnueARCHIVÉepoch.ai
ARC (AI2 Reasoning Challenge)56,5 %-7,5InconnueARCHIVÉepoch.ai
BIG-Bench Hard (BBH)51,2 %2,6InconnueARCHIVÉepoch.ai
BIG-Bench Hard (BBH)42,4 %-11,7InconnueARCHIVÉepoch.ai
Arena, texte1 170,8 Elo15,4InconnueACTIFarena.ai
Arena, écriture créative1 111,3 Elo10,8InconnueACTIFarena.ai
Arena, questions de maths1 137,3 Elo14,5InconnueACTIFarena.ai
Arena, questions de code1 179,3 Elo10,0InconnueACTIFarena.ai
Arena, questions en français1 151,5 Elo10,3InconnueACTIFarena.ai
Arena, questions d'experts1 138,3 Elo15,1InconnueACTIFarena.ai
GSM8K13,3 %-38,2InconnueARCHIVÉepoch.ai
MATH Level 53,3 %22,4InconnueARCHIVÉepoch.ai
DTBench41,7 %12,1InconnueSATURÉconceptualreasoning.ai
GPQA Diamond26,3 %16,5InconnueSATURÉepoch.ai
ForecastBench50,4 %-177,3InconnueACTIFepoch.ai
OTIS Mock AIME 2024-20250 %31,2InconnueSATURÉepoch.ai
CommonsenseQA 2.050 %-18,8InconnueARCHIVÉepoch.ai

En bref

Quel est le score de Llama 2-70B ?
Llama 2-70B obtient un score IA de 15,5, avec une marge de 2,3 à 28,7, dans l'édition du 9 novembre 2026. Il est classé 250e sur 257 modèles, à partir de 15 mesures.?
Dans quelles tâches Llama 2-70B est-il le plus fort ?
Ses deux meilleures tâches sont français (20,3) et usage (15,5). Sa tâche la plus faible est raisonnement (11,5).
Llama 2-70B peut-il tourner en local ?
Tient à partir d'une machine Ryzen AI Max de 64 Go (48 Go utiles), en version allégée à 4 bits, par exemple une machine à Ryzen AI Max+ 395 de 64 Go. Mémoire estimée : 47,6 Go.
Qui édite Llama 2-70B ?
Llama 2-70B est édité par Meta AI (États-Unis), et il est sorti le 18 juillet 2023. Ses poids sont ouverts.

Ses voisins?