Fiche modèle · édition du
Llama 3.1-70B
Meta AI · États-Unis · sorti le Meta AI · États-Unis · 23 juillet 2024
- Poids ouverts
- Mac 96 Go
47,9de 43,1 à 52,8Rang 198 · 90 %
Empreinte
Raisonnement52,4Code43,0Agents53,7Usage46,6Maths43,2Sciences47,4Français53,9VisionÉcriture46,4Web
Score général
Les dix tâches
- Raisonnement52,4Provisoire · 22 %
- Code43,0Provisoire · 15 %
- Agents53,7Provisoire · 11 %
- Usage46,6Rang 219 · 100 %
- Maths43,2Provisoire · 25 %
- Sciences47,4Provisoire · 40 %
- Français53,9Rang 115 · 75 %
- VisionNon mesuré
- Écriture46,4Rang 219 · 100 %
- WebNon mesuré
Peut-il tourner chez vous ?ESTIMATION
Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,7 Go.
- Carte graphique 96 Gopar exemple RTX PRO 6000 BlackwellOui, jusqu'à 8 bits
- PC portables GeForce RTXTrop juste
- PC portables Intel Core UltraTrop juste
- PC portables Snapdragon X2Trop juste
- Mac 96 Gopar exemple Mac Studio M5 Ultra, 96 GoOui, allégé 4 bits
- Ryzen AI Max 128 Gopar exemple Ryzen AI Max+ 395, 128 Go, et une autre machineOui, jusqu'à 8 bits
- DGX Spark 128 Gopar exemple Nvidia DGX SparkOui, jusqu'à 8 bits
- Sans carte graphiqueTrop juste
- ServeurOui
Mémoire selon la versionAllégée, 4 bits48,7 GoAllégée, 8 bits85,2 GoComplète, 16 bits162,3 GoLe pointillé marque 71 Go, la mémoire utile d'un Mac de 96 Go. Au-delà, le modèle ne tient plus sur cette machine.
Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire.
Fiche technique
- Prix
- 0,63 € / 0,63 €entrée / sortie, par million de jetons
- Fenêtre de contexte
- 128 000 jetonsenviron 96 000 mots
- Entrées
- Texte
- Réflexion
- Non communiqué
- Paramètres
- 70,6 milliards
- Licence
- Poids ouvertspoids ouverts, téléchargeables
- Classe énergétique
- Non communiquée
- Hébergement en Europe
- Non communiqué
- Connaissances jusqu'à
- Décembre 2023
Où le trouver
Liens directs, sans affiliation- TéléchargerHugging FaceLes poids officiels du modèle
- Sur votre machineOllamaChercher le modèle, une commande pour le lancer
- Sur votre machineLM StudioInterface graphique, Windows, Mac et Linux
- Par APIOpenRouterUne clé pour tous les modèles, prix au jeton
- L'essayerMeta AILa discussion en ligne de l'éditeur
Toutes les mesures
29 mesures · la matière du scoreBenchmarkPubliéSuggèreRéflexionÉtatSource
Voir les 17 autres mesures
En bref
- Quel est le score de Llama 3.1-70B ?
- Llama 3.1-70B obtient un score IA de 47,9, avec une marge de 43,1 à 52,8, dans l'édition du 28 septembre 2026. Il est classé 198e sur 246 modèles, à partir de 20 mesures.
- Dans quelles tâches Llama 3.1-70B est-il le plus fort ?
- Ses deux meilleures tâches sont français (53,9) et agents (53,7). Sa tâche la plus faible est code (43,0).
- Llama 3.1-70B peut-il tourner en local ?
- Tient à partir d'un Mac de 96 Go (71 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 96 Go. Mémoire estimée : 48,7 Go.
- Combien coûte Llama 3.1-70B ?
- 0,63 € par million de jetons en entrée et 0,63 € en sortie, au tarif affiché par les fournisseurs. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
- Qui édite Llama 3.1-70B ?
- Llama 3.1-70B est édité par Meta AI (États-Unis), et il est sorti le 23 juillet 2024. Ses poids sont ouverts.