Aller au contenu
EN 4 QUESTIONSTrouver mon modèle
Fiche modèle · édition du

Llama 3.2 3B

Meta AI · États-Unis · sorti le Meta AI · États-Unis · 24 septembre 2024

  • Poids ouverts
  • Carte graphique 8 Go
15,2de 1,6 à 28,9Rang 251 · 75 %?
Empreinte?
RaisonnementCode13,9Agents16,8Usage15,0Maths16,6Sciences17,4Français7,3VisionÉcriture16,0Web

Son bilan?

  • Au classement général, 251e sur 257, ex æquo avec 15 autres modèles dont les marges d'erreur se recouvrent.
  • Pas encore classé en code, tâches d'agent, maths et sciences : trop peu de mesures.
  • Pas encore mesuré en raisonnement, compréhension d'images et création web.
L'application de l'éditeurMeta AI Ce modèle n'y est peut-être plus proposé. (nouvel onglet)

Estimationenviron 0,19 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime

Score général?

15,2de 1,6 à 28,9

Rang251Groupe 13, ex æquoCouverture75 %14 mesures

Pourquoi ce score ? →Comment lire un score →

Les dix tâches?

Peut-il tourner chez vous ?ESTIMATION

Tient à partir d'une carte graphique de 8 Go (6 Go utiles), en version allégée à 8 bits, par exemple une GeForce RTX 5050. Mémoire estimée : 3,9 Go.

Mémoire selon la versionAllégée, 4 bits2,2 GoAllégée, 8 bits3,9 GoComplète, 16 bits7,4 GoLe pointillé marque 6 Go, la mémoire utile d'une carte graphique de 8 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de générationEstimation pour un contexte court : le débit mémoire de chaque machine divisé par ce que le modèle relit à chaque jeton dans la version qui y tient, ramené à ce que donnent les 7 mesures publiées qui servent d'étalon. Dans chaque famille, la plus petite machine à débit publié où il tient, la moins rapide à mémoire égale. Comment on l’estime.

Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.

Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.

Fiche technique

Prix
0,04 € / 0,29 €entrée / sortie, par million de jetons
Fenêtre de contexte
131 072 jetonsenviron 98 000 mots
Entrées
Texte
Réflexion
Non communiqué
Paramètres
3,2 milliards
Licence
Poids ouvertspoids ouverts, téléchargeables
Classe énergétique
Non communiquée
Hébergement en Europe
Non communiqué
Connaissances jusqu'à
Décembre 2023

Où le trouver

Liens directs, sans affiliation

Toutes les mesures

14 mesures · d'où vient le score
BenchmarkRésultatÉquivaut à?RéflexionÉtatSource
EuroEval, Allociné (sentiment)92,3 %35,3InconnueSATURÉeuroeval.com
EuroEval, FQuAD (compréhension)61 %24,2InconnueACTIFeuroeval.com
EuroEval, ELTeC (noms propres)44,2 %-7,1InconnueACTIFeuroeval.com
EuroEval, OrangeSum (résumé)37,1 %53,8InconnueACTIFeuroeval.com
EuroEval, INCLUDE (connaissances)31,4 %10,9InconnueACTIFeuroeval.com
EuroEval, HellaSwag (bon sens)23,7 %-0,0InconnueACTIFeuroeval.com
Arena, écriture créative1 144,5 Elo18,5InconnueACTIFarena.ai
Arena, texte1 166,9 Elo14,4InconnueACTIFarena.ai
Arena, questions de maths1 165,4 Elo20,4InconnueACTIFarena.ai
Arena, questions d'experts1 179,1 Elo23,1InconnueACTIFarena.ai
Arena, questions de code1 176,6 Elo9,4InconnueACTIFarena.ai
EuroEval, ScaLA (grammaire)15,4 %-27,5InconnueACTIFeuroeval.com
Voir les 2 autres mesures
BALROG10,1 %26,4InconnueACTIFbalrogai.com
EuroEval, MultiLoKo (connaissances locales)8,4 %36,3InconnueACTIFeuroeval.com

En bref

Quel est le score de Llama 3.2 3B ?
Llama 3.2 3B obtient un score IA de 15,2, avec une marge de 1,6 à 28,9, dans l'édition du 9 novembre 2026. Il est classé 251e sur 257 modèles, à partir de 14 mesures.?
Dans quelles tâches Llama 3.2 3B est-il le plus fort ?
Ses deux meilleures tâches sont sciences (17,4) et agents (16,8). Sa tâche la plus faible est français (7,3).
Llama 3.2 3B peut-il tourner en local ?
Tient à partir d'une carte graphique de 8 Go (6 Go utiles), en version allégée à 8 bits, par exemple une GeForce RTX 5050. Mémoire estimée : 3,9 Go.
Combien coûte Llama 3.2 3B ?
0,04 € par million de jetons en entrée et 0,29 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 0,19 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
Qui édite Llama 3.2 3B ?
Llama 3.2 3B est édité par Meta AI (États-Unis), et il est sorti le 24 septembre 2024. Ses poids sont ouverts.

Ses voisins?