ALIA-40b
Barcelona Supercomputing Center · Espagne · sorti le Barcelona Supercomputing Center · Espagne · 9 décembre 2024
- Poids ouverts · Apache 2.0
- Carte graphique 32 Go
Son bilan?
- Pas encore de rang au classement général : il a trop peu de mesures, son score est provisoire.
- Mesuré seulement en français pour l'instant.
Score général?
7,0de 0,0 à 36,1
Les dix tâches?
- RaisonnementNon mesuré
- CodeNon mesuré
- AgentsNon mesuré
- UsageNon mesuré
- MathsNon mesuré
- SciencesNon mesuré
- Français5,7Rang 186 · 31 %, voir le classement Français
- VisionNon mesuré
- ÉcritureNon mesuré
- WebNon mesuré
Peut-il tourner chez vous ?ESTIMATION
Tient à partir d'une carte graphique de 32 Go (30 Go utiles), en version allégée à 4 bits, par exemple une Intel Arc Pro B65. Mémoire estimée : 27,9 Go.
- Carte graphique 32 Gopar exemple Intel Arc Pro B65, et 4 autres machinesOui, allégé 4 bits
- PC portables GeForce RTXTrop juste
- PC portables Intel Core UltraTrop juste
- PC portables Snapdragon X2Trop juste
- Mac 48 Gopar exemple Mac mini M5 Pro, 48 Go, et une autre machineOui, allégé 4 bits
- Ryzen AI Max 64 Gopar exemple Ryzen AI Max+ 395, 64 GoOui, allégé 4 bits
- PC portable RTX Spark 64 Gopar exemple Microsoft Surface Laptop Ultra 15 pouces, RTX Spark, 64 Go, et 2 autres machinesOui, allégé 4 bits
- Sans carte graphiqueTrop juste
- ServeurOui
- EstiméIntel Arc Pro B70Carte graphique 32 Go · 608 Go/s · version allégée à 4 bitsde 6,9 à 18 jetons/s estimés
- EstiméMac mini M5 Pro, 48 GoMac 48 Go · 307 Go/s · version allégée à 4 bitsde 3,5 à 9 jetons/s estimés
- EstiméASUS ProArt P14 (H7407BA), RTX Spark, 128 GoPC portable RTX Spark 128 Go · 300 Go/s · version allégée à 8 bitsde 1,9 à 5 jetons/s estimés
Les benchmarks mesurent la version complète du modèle. La version allégée fait un peu moins bien. À télécharger avec Ollama, LM Studio ou llama.cpp. Comment on compte la mémoire. Les prix et les marchands sont sur la page de chaque machine.
Pour aller plus loin. Installer Ollama, lancer un premier modèle et fixer la taille du contexte pour qu'il tienne dans la mémoire de la machine. Ollama & les modèles locaux, sur minilabai.com. Un guide du même auteur que QUELLE IA.
Fiche technique
- Prix
- Non communiqué
- Fenêtre de contexte
- Non communiqué
- Entrées
- Non communiqué
- Réflexion
- Non communiqué
- Paramètres
- 40,4 milliards
- Licence
- Apache 2.0poids ouverts, téléchargeables
- Classe énergétique
- Non communiquée
- Hébergement en Europe
- Non communiqué
- Connaissances jusqu'à
- Non communiqué
Où le trouver
Liens directs, sans affiliationToutes les mesures
5 mesures · d'où vient le scoreEn bref
- Quel est le score de ALIA-40b ?
- ALIA-40b obtient un score IA de 7,0, avec une marge de 0,0 à 36,1. Ce score est provisoire : il repose sur 5 mesures, et le modèle n'a pas de rang.?
- ALIA-40b peut-il tourner en local ?
- Tient à partir d'une carte graphique de 32 Go (30 Go utiles), en version allégée à 4 bits, par exemple une Intel Arc Pro B65. Mémoire estimée : 27,9 Go.
- Qui édite ALIA-40b ?
- ALIA-40b est édité par Barcelona Supercomputing Center (Espagne), et il est sorti le 9 décembre 2024. Ses poids sont ouverts, sous licence Apache 2.0.