MLX LM

Ce que c'est

Il s'utilise en ligne de commande, en Python ou comme petit serveur proche de l'API d'OpenAI, et puise dans les milliers de modèles convertis par la communauté MLX sur Hugging Face.

À quoi ça sert

• Converser avec un modèle dans le terminal avec « mlx_lm.chat ». github.com
• Convertir et quantifier en 4 bits un modèle de Hugging Face, puis le republier. github.com
• Affiner un modèle sur ses données avec LoRA, y compris un modèle quantifié. github.com
• Servir un modèle à d'autres applications du Mac avec « mlx_lm.server ». github.com

Fonctions

Génération et chat

Commandes mlx_lm.generate et mlx_lm.chat, et API Python avec génération en flux et en lots. github.com

Conversion et quantification

mlx_lm.convert transforme un modèle de Hugging Face et peut l'envoyer vers un dépôt. github.com

Affinage

Affinage LoRA ou complet, y compris sur des modèles quantifiés. github.com

Serveur local

Une API inspirée de celle d'OpenAI, que l'éditeur déconseille en production : ses contrôles de sécurité restent basiques. github.com

Longs contextes

Cache clé-valeur à taille fixe, mise en cache des invites et taille de préremplissage réglable. github.com

Inférence distribuée

Répartition de l'inférence et de l'affinage sur plusieurs machines avec mx.distributed. github.com

Pour qui

Développeurs et utilisateurs avancés de Mac Apple Silicon à l'aise avec Python et le terminal, qui veulent exécuter, convertir ou affiner des modèles localement. github.com

Ce qu'il faut savoir

En local

Les modèles tournent sur le Mac ; ils sont téléchargés depuis Hugging Face et rangés dans son cache local. La publication d'un modèle converti vers Hugging Face se fait sur demande (option --upload-repo). github.com

Limites

Aucune interface graphique : tout se fait en ligne de commande ou en Python. github.com

Limites

Les modèles qui frôlent la taille de la mémoire du Mac sont lents ; l'accélération par mémoire « câblée » demande macOS 15 ou plus récent. github.com

Confidentialité

Certains modèles exigent l'option trust_remote_code, qui exécute du code fourni avec eux ; MLX LM demande alors confirmation dans le terminal. github.com

À noter

Sous Linux, le paquet existe aussi en versions CUDA et processeur seul, toujours sur le moteur MLX. pypi.org

Configuration

Mac à puce Apple Silicon, macOS 14.0 ou plus récent, Python natif 3.10 ou plus pour MLX (3.11 ou plus pour mlx-lm). macOS 15 conseillé pour les gros modèles. Aucune mémoire minimale publiée. ml-explore.github.io

Prix

Gratuit github.com

Licence

Open source, licence MIT. github.com

Modèles

Des milliers de modèles de Hugging Face, dont de nombreuses versions quantifiées publiées par l'organisation mlx-community. github.com

• mlx-community/Llama-3.2-3B-Instruct-4bit (modèle par défaut)
• Mistral-7B-Instruct-v0.3

Les noms surlignés ont leur fiche sur QUELLE IA : score, forces, mémoire demandée.

Sur quelles machines

Mac à puce Apple Silicon, macOS 14.0 ou plus récent, Python natif 3.10 ou plus pour MLX (3.11 ou plus pour mlx-lm). macOS 15 conseillé pour les gros modèles. Aucune mémoire minimale publiée. ml-explore.github.io

Parmi les machines suivies par QUELLE IA (Mac), 17 répondent à ce que demande l'éditeur :

• Mac mini M6, 16 Go
• MacBook Air M5
• MacBook Pro 14 pouces M5
• Mac mini M5 Pro, 24 Go
• Mac mini M6, 24 Go
• MacBook Pro M5 Pro
• Mac mini M6, 32 Go
• Mac Studio M5 Max, 36 Go
• MacBook Pro M5 Max
• Mac mini M5 Pro, 48 Go
• Mac Studio M5 Max, 48 Go
• Mac mini M5 Pro, 64 Go

Et 5 autres sur Sur ma machine.

Sur QUELLE IA

• Llama 3.2 3B →Un modèle que MLX LM propose : son score, ses forces, ce qu'il demande.
• Mistral 7B v0.3 →Un modèle que MLX LM propose : son score, ses forces, ce qu'il demande.
• Les outils de code →Pour aller plus loin sur l'usage « pour les développeurs ».
• Le classement du code →Pour aller plus loin sur l'usage « pour les développeurs ».
• Quel modèle tient sur ma machine →Pour aller plus loin sur l'usage « pour les développeurs ».
• Les modèles qui tournent en local →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».

Sources

Sources : pages de l'éditeur, des boutiques et du dépôt, octobre 2026.

Société éditrice : Apple Inc..

• github.com/ml-explore/mlx-lm/blob/main/README.md
• github.com/ml-explore/mlx-lm/blob/main/mlx_lm/LORA.md
• github.com/ml-explore/mlx-lm/blob/main/mlx_lm/SERVER.md
• pypi.org/project/mlx-lm/
• github.com/ml-explore/mlx-lm/blob/main/LICENSE
• anaconda.org/conda-forge/mlx-lm
• github.com/ml-explore/mlx-lm
• ml-explore.github.io/mlx/build/html/install.html
• github.com/ml-explore/mlx-lm/releases/latest
• github.com/ml-explore/mlx/blob/main/docs/src/_static/mlx_logo.png

Icône : Apple, dépôt officiel.

Les outils pour développeurs →Apps et logiciels d'IA : tout voir →Signaler une erreur →

Cette fiche existe aussi en texte et en JSON.