Llama-3.1-Nemotron-70B-Instruct
NVIDIA · États-Unis · sorti le NVIDIA · États-Unis · 18 décembre 2024
- Poids ouverts · Llama 3.1
- Mac 96 Go
- Classe énergétique C
Son bilan?
- Au classement général, 208e sur 257, dans un groupe de 35 modèles trop proches pour être départagés.
- Pas encore classé en code, maths et sciences : trop peu de mesures.
- Pas encore mesuré en raisonnement, tâches d'agent, compréhension d'images et création web.
Estimationenviron 0,78 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime
Score général?
48,2de 37,7 à 58,7
Les dix tâches?
- RaisonnementNon mesuré
- Code46,3Provisoire · 8 %, voir le classement Code
- AgentsNon mesuré
- Usage47,1Rang 231 · 100 %, voir le classement Usage
- Maths46,3Provisoire · 12 %, voir le classement Maths
- Sciences47,1Provisoire · 20 %, voir le classement Sciences
- Français56,5Rang 115 · 56 %, voir le classement Français
- VisionNon mesuré
- Écriture48,5Rang 225 · 100 %, voir le classement Écriture
- WebNon mesuré
Peut-il tourner chez vous ?ESTIMATION
Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,3 Go.
- Carte graphique 96 Gopar exemple RTX PRO 6000 BlackwellOui, jusqu'à 8 bits
- PC portables GeForce RTXTrop juste
- PC portables Intel Core UltraTrop juste
- PC portables Snapdragon X2Trop juste
- Mac 96 Gopar exemple Mac Studio M5 Ultra, 96 GoOui, allégé 4 bits
- Ryzen AI Max 128 Gopar exemple Ryzen AI Max+ 395, 128 Go, et une autre machineOui, jusqu'à 8 bits
- PC portable RTX Spark 128 Gopar exemple Microsoft Surface Laptop Ultra 15 pouces, RTX Spark, 128 Go, et 3 autres machinesOui, jusqu'à 8 bits
- Sans carte graphiqueTrop juste
- ServeurOui
- EstiméMac Studio M5 Ultra, 96 GoMac 96 Go · 1,2 To/s · version allégée à 4 bitsde 7,9 à 20 jetons/s estimés
- EstiméASUS ProArt P14 (H7407BA), RTX Spark, 128 GoPC portable RTX Spark 128 Go · 300 Go/s · version allégée à 8 bitsde 1,1 à 2,9 jetons/s estimés
Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.
Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.
Fiche technique
- Prix
- 0,52 € / 0,52 €entrée / sortie, par million de jetons
- Fenêtre de contexte
- 131 072 jetonsenviron 98 000 mots
- Entrées
- Texte
- Réflexion
- Non communiqué
- Paramètres
- 70 milliards
- Licence
- Llama 3.1poids ouverts, téléchargeables
- Classe énergétique
- Csur une échelle de A à G
- Hébergement en Europe
- Possible
- Connaissances jusqu'à
- Non communiqué
Où le trouver
Liens directs, sans affiliationToutes les mesures
11 mesures · d'où vient le scoreEn bref
- Quel est le score de Llama-3.1-Nemotron-70B-Instruct ?
- Llama-3.1-Nemotron-70B-Instruct obtient un score IA de 48,2, avec une marge de 37,7 à 58,7, dans l'édition du 9 novembre 2026. Il est classé 208e sur 257 modèles, à partir de 11 mesures.?
- Dans quelles tâches Llama-3.1-Nemotron-70B-Instruct est-il le plus fort ?
- Ses deux meilleures tâches sont français (56,5) et écriture (48,5). Sa tâche la plus faible est maths (46,3).
- Llama-3.1-Nemotron-70B-Instruct peut-il tourner en local ?
- Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,3 Go.
- Combien coûte Llama-3.1-Nemotron-70B-Instruct ?
- 0,52 € par million de jetons en entrée et 0,52 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 0,78 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
- Qui édite Llama-3.1-Nemotron-70B-Instruct ?
- Llama-3.1-Nemotron-70B-Instruct est édité par NVIDIA (États-Unis), et il est sorti le 18 décembre 2024. Ses poids sont ouverts, sous licence Llama 3.1.