Llama 3.1-405B
Meta AI · États-Unis · sorti le Meta AI · États-Unis · 23 juillet 2024
- Poids ouverts · Llama 3.1
- Mac 512 Go
- Classe énergétique E
Son bilan?
- Au classement général, 186e sur 257, ex æquo avec 34 autres modèles dont les marges d'erreur se recouvrent.
- Pas encore classé en raisonnement, code et maths : trop peu de mesures.
- Pas encore mesuré en tâches d'agent, compréhension d'images et création web.
Estimationenviron 3,7 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime
Score général?
52,7de 49,0 à 56,4
Les dix tâches?
- Raisonnement53,3Provisoire · 33 %, voir le classement Raisonnement
- Code53,0Provisoire · 17 %, voir le classement Code
- AgentsNon mesuré
- Usage53,5Rang 202 · 100 %, voir le classement Usage
- Maths48,7Provisoire · 25 %, voir le classement Maths
- Sciences53,3Rang 97 · 60 %, voir le classement Sciences
- Français57,5Rang 109 · 81 %, voir le classement Français
- VisionNon mesuré
- Écriture53,8Rang 203 · 100 %, voir le classement Écriture
- WebNon mesuré
Peut-il tourner chez vous ?ESTIMATION
Tient à partir d'un Mac de 512 Go (378,9 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 512 Go. Mémoire estimée : 279,4 Go.
- Cartes graphiquesTrop juste
- PC portables GeForce RTXTrop juste
- PC portables Intel Core UltraTrop juste
- PC portables Snapdragon X2Trop juste
- Mac 512 Gopar exemple Mac Studio M5 Ultra, 512 GoOui, allégé 4 bits
- Mini-PC et PC portables Ryzen AI MaxTrop juste
- 4 DGX Spark, 512 Gopar exemple Quatre DGX Spark en grappeOui, allégé 4 bits
- Sans carte graphiqueTrop juste
- ServeurOui
- EstiméMac Studio M5 Ultra, 512 GoMac 512 Go · 1,2 To/s · version allégée à 4 bitsde 1,4 à 3,5 jetons/s estimés
Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.
Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.
Fiche technique
- Prix
- 2,38 € / 2,60 €entrée / sortie, par million de jetons
- Fenêtre de contexte
- 131 072 jetonsenviron 98 000 mots
- Entrées
- Non communiqué
- Réflexion
- Non communiqué
- Paramètres
- 405 milliards
- Licence
- Llama 3.1poids ouverts, téléchargeables
- Classe énergétique
- Esur une échelle de A à G
- Hébergement en Europe
- Possible
- Connaissances jusqu'à
- Non communiqué
Où le trouver
Liens directs, sans affiliationSes versions non censurées
Une variante modifiée par des tiers pour refuser moins, à partir de ce modèle ou de sa version de base. Leur taux de refus vient du banc de QUELLE IA ; elles ne reprennent pas le score de cette fiche.
À lire sur Clubic
1 article · relevé du
Une sélection automatique des articles de Frandroid, Numerama et Clubic consacrés à ce modèle. Ces trois médias appartiennent au groupe Humanoid. Les articles n'entrent pas dans le score.
Toutes les mesures
48 mesures · d'où vient le scoreVoir les 36 autres mesures
Source : Artificial Analysis pour CritPt. Ces mesures, relayées par Epoch AI, comptent dans le score IA avec leur accord.
En bref
- Quel est le score de Llama 3.1-405B ?
- Llama 3.1-405B obtient un score IA de 52,7, avec une marge de 49,0 à 56,4, dans l'édition du 9 novembre 2026. Il est classé 186e sur 257 modèles, à partir de 19 mesures.?
- Dans quelles tâches Llama 3.1-405B est-il le plus fort ?
- Ses deux meilleures tâches sont français (57,5) et écriture (53,8). Sa tâche la plus faible est maths (48,7).
- Llama 3.1-405B peut-il tourner en local ?
- Tient à partir d'un Mac de 512 Go (378,9 Go utiles), en version allégée à 4 bits, par exemple un Mac Studio M5 Ultra de 512 Go. Mémoire estimée : 279,4 Go.
- Combien coûte Llama 3.1-405B ?
- 2,38 € par million de jetons en entrée et 2,60 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 3,7 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
- Qui édite Llama 3.1-405B ?
- Llama 3.1-405B est édité par Meta AI (États-Unis), et il est sorti le 23 juillet 2024. Ses poids sont ouverts, sous licence Llama 3.1.