Aller au contenu
EN 4 QUESTIONSTrouver mon modèle
Fiche modèle · édition du

Aya Expanse 32B

Cohere · Canada · sorti le Cohere · Canada · 1er décembre 2024

  • Poids ouverts · CC-BY-NC-4.0
  • Mac 32 Go
  • Classe énergétique B
58,6de 42,1 à 75,1Provisoire · 10 %?
Empreinte?
RaisonnementCodeAgentsUsageMathsSciencesFrançais58,6VisionÉcritureWeb

Son bilan?

  • Pas encore de rang au classement général : il a trop peu de mesures, son score est provisoire.
  • Mesuré seulement en français pour l'instant.
L'application de l'éditeurCohere Ce modèle n'y est peut-être plus proposé. (nouvel onglet)

Estimationenviron 1,0 € pour 1 000 questions par l'API, en comptant 1 000 jetons lus et 500 écrits par question. Comment on l'estime

Score général?

58,6de 42,1 à 75,1

RangScore provisoireCouverture10 %6 mesures

Pourquoi ce score ? →Comment lire un score →

Les dix tâches?

Peut-il tourner chez vous ?ESTIMATION

Tient à partir d'un Mac de 32 Go (23,7 Go utiles), en version allégée à 4 bits, par exemple un Mac mini M6 de 32 Go. Mémoire estimée : 22,1 Go.

Mémoire selon la versionAllégée, 4 bits22,1 GoAllégée, 8 bits38,6 GoComplète, 16 bits73,6 GoLe pointillé marque 23,7 Go, la mémoire utile d'un Mac de 32 Go. Au-delà, le modèle ne tient plus sur cette machine.
Vitesse de générationEstimation pour un contexte court : le débit mémoire de chaque machine divisé par ce que le modèle relit à chaque jeton dans la version qui y tient, ramené à ce que donnent les 7 mesures publiées qui servent d'étalon. Dans chaque famille, la plus petite machine à débit publié où il tient, la moins rapide à mémoire égale. Comment on l’estime.

Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.

Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.

Fiche technique

Prix
0,69 € / 0,69 €entrée / sortie, par million de jetons
Fenêtre de contexte
131 072 jetonsenviron 98 000 mots
Entrées
Texte
Réflexion
Non communiqué
Paramètres
32 milliards
Licence
CC-BY-NC-4.0poids ouverts, téléchargeables
Classe énergétique
Bsur une échelle de A à G
Hébergement en Europe
Possible
Connaissances jusqu'à
Non communiqué

Où le trouver

Liens directs, sans affiliation

Toutes les mesures

6 mesures · d'où vient le score
BenchmarkRésultatÉquivaut à?RéflexionÉtatSource
EuroEval, Allociné (sentiment)93,3 %42,2InconnueSATURÉeuroeval.com
EuroEval, HellaSwag (bon sens)74 %72,6InconnueACTIFeuroeval.com
EuroEval, FQuAD (compréhension)68,5 %64,5InconnueACTIFeuroeval.com
EuroEval, ELTeC (noms propres)60,1 %43,3InconnueACTIFeuroeval.com
compar:IA978,0 Elo56,4InconnueACTIFarene.comparia.beta.gouv.fr
EuroEval, ScaLA (grammaire)38,2 %39,7InconnueACTIFeuroeval.com

En bref

Quel est le score de Aya Expanse 32B ?
Aya Expanse 32B obtient un score IA de 58,6, avec une marge de 42,1 à 75,1. Ce score est provisoire : il repose sur 6 mesures, et le modèle n'a pas de rang.?
Aya Expanse 32B peut-il tourner en local ?
Tient à partir d'un Mac de 32 Go (23,7 Go utiles), en version allégée à 4 bits, par exemple un Mac mini M6 de 32 Go. Mémoire estimée : 22,1 Go.
Combien coûte Aya Expanse 32B ?
0,69 € par million de jetons en entrée et 0,69 € en sortie, au tarif affiché par les fournisseurs. Pour fixer les idées, 1 000 questions de 1 000 jetons, avec des réponses de 500 jetons, coûteraient environ 1,0 € par l'API : c'est une estimation, pas un tarif. Le coût réel d'une tâche dépend du nombre de jetons que le modèle consomme.
Qui édite Aya Expanse 32B ?
Aya Expanse 32B est édité par Cohere (Canada), et il est sorti le 1er décembre 2024. Ses poids sont ouverts, sous licence CC-BY-NC-4.0.

Ses voisins?