Aller au contenu
EN 4 QUESTIONSTrouver mon modèle
Fiche modèle · édition du

Llama-3.1-Nemotron-70B-Instruct

NVIDIA · États-Unis · sorti le NVIDIA · États-Unis · 18 décembre 2024

  • Poids ouverts · Llama 3.1
  • Mac 96 Go
  • Classe énergétique C
48,2de 37,7 à 58,7Rang 208 · 60 %?
Empreinte?
RaisonnementCode46,3AgentsUsage47,1Maths46,3Sciences47,1Français56,5VisionÉcriture48,5Web

Son bilan?

  • Au classement général, 208e sur 257, dans un groupe de 35 modèles trop proches pour être départagés.
  • Pas encore classé en code, maths et sciences : trop peu de mesures.
  • Pas encore mesuré en raisonnement, tâches d'agent, compréhension d'images et création web.
L'application de l'éditeurNVIDIA Build Ce modèle n'y est peut-être plus proposé. (nouvel onglet)

Estimationenviron 0,78 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime

Score général?

48,2de 37,7 à 58,7

Rang208Groupe 11, ex æquoCouverture60 %11 mesures

Pourquoi ce score ? →Comment lire un score →

Peut-il tourner chez vous ?ESTIMATION

Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,3 Go.

Mémoire selon la versionAllégée, 4 bits48,3 GoAllégée, 8 bits84,5 GoComplète, 16 bits161,0 GoLe pointillé marque 71 Go, la mémoire utile d'un Mac de 96 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de générationEstimation pour un contexte court : le débit mémoire de chaque machine divisé par ce que le modèle relit à chaque jeton dans la version qui y tient, ramené à ce que donnent les 7 mesures publiées qui servent d'étalon. Dans chaque famille, la plus petite machine à débit publié où il tient, la moins rapide à mémoire égale. Comment on l’estime.

Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.

Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.

Fiche technique

Prix
0,52 € / 0,52 €entrée / sortie, par million de jetons
Fenêtre de contexte
131 072 jetonsenviron 98 000 mots
Entrées
Texte
Réflexion
Non communiqué
Paramètres
70 milliards
Licence
Llama 3.1poids ouverts, téléchargeables
Classe énergétique
Csur une échelle de A à G
Hébergement en Europe
Possible
Connaissances jusqu'à
Non communiqué

Où le trouver

Liens directs, sans affiliation

Toutes les mesures

11 mesures · d'où vient le score
BenchmarkRésultatÉquivaut à?RéflexionÉtatSource
compar:IA987,0 Elo59,7InconnueACTIFarene.comparia.beta.gouv.fr
Arena, écriture créative1 276,0 Elo48,8InconnueACTIFarena.ai
Arena, texte1 298,8 Elo45,9InconnueACTIFarena.ai
Arena, questions de code1 327,8 Elo43,5InconnueACTIFarena.ai
Arena, questions de maths1 278,4 Elo44,2InconnueACTIFarena.ai
Arena, questions d'experts1 296,2 Elo46,1InconnueACTIFarena.ai

En bref

Quel est le score de Llama-3.1-Nemotron-70B-Instruct ?
Llama-3.1-Nemotron-70B-Instruct obtient un score IA de 48,2, avec une marge de 37,7 à 58,7, dans l'édition du 9 novembre 2026. Il est classé 208e sur 257 modèles, à partir de 11 mesures.?
Dans quelles tâches Llama-3.1-Nemotron-70B-Instruct est-il le plus fort ?
Ses deux meilleures tâches sont français (56,5) et écriture (48,5). Sa tâche la plus faible est maths (46,3).
Llama-3.1-Nemotron-70B-Instruct peut-il tourner en local ?
Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,3 Go.
Combien coûte Llama-3.1-Nemotron-70B-Instruct ?
0,52 € par million de jetons en entrée et 0,52 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 0,78 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
Qui édite Llama-3.1-Nemotron-70B-Instruct ?
Llama-3.1-Nemotron-70B-Instruct est édité par NVIDIA (États-Unis), et il est sorti le 18 décembre 2024. Ses poids sont ouverts, sous licence Llama 3.1.

Ses voisins?