Fiche modèle · édition du
Llama 3.1-70B
Meta AI · États-Unis · sorti le Meta AI · États-Unis · 23 juillet 2024
- Poids ouverts
- Mac 96 Go
48,2de 43,5 à 52,9Rang 207 · 90 %?
Empreinte?
Raisonnement52,5Code43,2Agents54,1Usage46,9Maths43,4Sciences47,9Français54,1VisionÉcriture46,6Web
Son bilan?
- Au classement général, 207e sur 257, dans un groupe de 35 modèles trop proches pour être départagés.
- Pas encore classé en raisonnement, code, tâches d'agent, maths et sciences : trop peu de mesures.
- Pas encore mesuré en compréhension d'images et création web.
L'application de l'éditeurMeta AI Ce modèle n'y est peut-être plus proposé. (nouvel onglet)
Estimationenviron 0,96 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime
Score général?
48,2de 43,5 à 52,9
Rang207Groupe 11, ex æquoCouverture90 %20 mesures
Les dix tâches?
- Raisonnement52,5Provisoire · 22 %, voir le classement Raisonnement
- Code43,2Provisoire · 17 %, voir le classement Code
- Agents54,1Provisoire · 12 %, voir le classement Agents
- Usage46,9Rang 232 · 100 %, voir le classement Usage
- Maths43,4Provisoire · 25 %, voir le classement Maths
- Sciences47,9Provisoire · 40 %, voir le classement Sciences
- Français54,1Rang 122 · 75 %, voir le classement Français
- VisionNon mesuré
- Écriture46,6Rang 232 · 100 %, voir le classement Écriture
- WebNon mesuré
Peut-il tourner chez vous ?ESTIMATION
Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,7 Go.
- Carte graphique 96 Gopar exemple RTX PRO 6000 BlackwellOui, jusqu'à 8 bits
- PC portables GeForce RTXTrop juste
- PC portables Intel Core UltraTrop juste
- PC portables Snapdragon X2Trop juste
- Mac 96 Gopar exemple Mac Studio M5 Ultra, 96 GoOui, allégé 4 bits
- Ryzen AI Max 128 Gopar exemple Ryzen AI Max+ 395, 128 Go, et une autre machineOui, jusqu'à 8 bits
- PC portable RTX Spark 128 Gopar exemple Microsoft Surface Laptop Ultra 15 pouces, RTX Spark, 128 Go, et 3 autres machinesOui, jusqu'à 8 bits
- Sans carte graphiqueTrop juste
- ServeurOui
Mémoire selon la versionAllégée, 4 bits48,7 GoAllégée, 8 bits85,2 GoComplète, 16 bits162,3 GoLe pointillé marque 71 Go, la mémoire utile d'un Mac de 96 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de génération
- EstiméMac Studio M5 Ultra, 96 GoMac 96 Go · 1,2 To/s · version allégée à 4 bitsde 7,9 à 20 jetons/s estimés
- EstiméASUS ProArt P14 (H7407BA), RTX Spark, 128 GoPC portable RTX Spark 128 Go · 300 Go/s · version allégée à 8 bitsde 1,1 à 2,9 jetons/s estimés
Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.
Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.
Fiche technique
- Prix
- 0,64 € / 0,64 €entrée / sortie, par million de jetons
- Fenêtre de contexte
- 128 000 jetonsenviron 96 000 mots
- Entrées
- Texte
- Réflexion
- Non communiqué
- Paramètres
- 70,6 milliards
- Licence
- Poids ouvertspoids ouverts, téléchargeables
- Classe énergétique
- Non communiquée
- Hébergement en Europe
- Non communiqué
- Connaissances jusqu'à
- Décembre 2023
Où le trouver
Liens directs, sans affiliation- TéléchargerHugging FaceLes poids officiels du modèle
- Sur votre machineOllamaChercher le modèle, une commande pour le lancer
- Sur votre machineLM StudioInterface graphique, Windows, Mac et Linux
- Par APIOpenRouterUne clé pour tous les modèles, prix au jeton
- L'essayerMeta AILa discussion en ligne de l'éditeur
Toutes les mesures
29 mesures · d'où vient le scoreVoir les 17 autres mesures
En bref
- Quel est le score de Llama 3.1-70B ?
- Llama 3.1-70B obtient un score IA de 48,2, avec une marge de 43,5 à 52,9, dans l'édition du 9 novembre 2026. Il est classé 207e sur 257 modèles, à partir de 20 mesures.?
- Dans quelles tâches Llama 3.1-70B est-il le plus fort ?
- Ses deux meilleures tâches sont agents (54,1) et français (54,1). Sa tâche la plus faible est code (43,2).
- Llama 3.1-70B peut-il tourner en local ?
- Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,7 Go.
- Combien coûte Llama 3.1-70B ?
- 0,64 € par million de jetons en entrée et 0,64 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 0,96 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
- Qui édite Llama 3.1-70B ?
- Llama 3.1-70B est édité par Meta AI (États-Unis), et il est sorti le 23 juillet 2024. Ses poids sont ouverts.