Aller au contenu
EN 4 QUESTIONSTrouver mon modèle
Fiche modèle · édition du

ALIA-⁠40b

Barcelona Supercomputing Center · Espagne · sorti le Barcelona Supercomputing Center · Espagne · 9 décembre 2024

  • Poids ouverts · Apache 2.0
  • Carte graphique 32 Go
7,0de 0,0 à 36,1Provisoire · 10 %?
Empreinte?
RaisonnementCodeAgentsUsageMathsSciencesFrançais5,7VisionÉcritureWeb

Son bilan?

  • Pas encore de rang au classement général : il a trop peu de mesures, son score est provisoire.
  • Mesuré seulement en français pour l'instant.

Score général?

7,0de 0,0 à 36,1

RangScore provisoireCouverture10 %5 mesures

Pourquoi ce score ? →Comment lire un score →

Les dix tâches?

Peut-il tourner chez vous ?ESTIMATION

Tient à partir d'une carte graphique de 32 Go (30 Go utiles), en version allégée à 4 bits, par exemple une Intel Arc Pro B65. Mémoire estimée : 27,9 Go.

Mémoire selon la versionAllégée, 4 bits27,9 GoAllégée, 8 bits48,8 GoComplète, 16 bits92,9 GoLe pointillé marque 30 Go, la mémoire utile d'une carte graphique de 32 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de générationEstimation pour un contexte court : le débit mémoire de chaque machine divisé par ce que le modèle relit à chaque jeton dans la version qui y tient, ramené à ce que donnent les 7 mesures publiées qui servent d'étalon. Dans chaque famille, la plus petite machine à débit publié où il tient, la moins rapide à mémoire égale. Comment on l’estime.

Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.

Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.

Fiche technique

Prix
Non communiqué
Fenêtre de contexte
Non communiqué
Entrées
Non communiqué
Réflexion
Non communiqué
Paramètres
40,4 milliards
Licence
Apache 2.0poids ouverts, téléchargeables
Classe énergétique
Non communiquée
Hébergement en Europe
Non communiqué
Connaissances jusqu'à
Non communiqué

Où le trouver

Liens directs, sans affiliation

Toutes les mesures

5 mesures · d'où vient le score
BenchmarkRésultatÉquivaut à?RéflexionÉtatSource
EuroEval, ScaLA (grammaire)2,2 %-144,1InconnueACTIFeuroeval.com

En bref

Quel est le score de ALIA-40b ?
ALIA-40b obtient un score IA de 7,0, avec une marge de 0,0 à 36,1. Ce score est provisoire : il repose sur 5 mesures, et le modèle n'a pas de rang.?
ALIA-40b peut-il tourner en local ?
Tient à partir d'une carte graphique de 32 Go (30 Go utiles), en version allégée à 4 bits, par exemple une Intel Arc Pro B65. Mémoire estimée : 27,9 Go.
Qui édite ALIA-40b ?
ALIA-40b est édité par Barcelona Supercomputing Center (Espagne), et il est sorti le 9 décembre 2024. Ses poids sont ouverts, sous licence Apache 2.0.

Ses voisins?