# MLX LM

Les outils pour développeurs. Fiche « Apps et logiciels d'IA » de QUELLE IA, d'après les pages officielles (octobre 2026). Page : https://quelleia.com/logitheque/mlx-lm/

## Télécharger

- Mac : Gestionnaire de paquets, https://pypi.org/project/mlx-lm/ (« pip install mlx-lm » ; Python 3.11 ou plus)
- Mac : Gestionnaire de paquets, https://anaconda.org/conda-forge/mlx-lm (« conda install -c conda-forge mlx-lm »)
- Mac : Dépôt officiel, https://github.com/ml-explore/mlx-lm (Code source et exemples)

## En bref

MLX LM est le paquet Python de l'équipe MLX d'Apple pour générer du texte avec des modèles de langage et les affiner sur Mac à puce Apple Silicon. Il s'utilise en ligne de commande, en Python ou comme petit serveur proche de l'API d'OpenAI, et puise dans les milliers de modèles convertis par la communauté MLX sur Hugging Face.

Pourquoi il est là : Il tire parti de la mémoire unifiée des Mac Apple Silicon grâce à MLX, et sait aussi quantifier et affiner un modèle sur la machine.

- Éditeur : Apple
- Prix : Gratuit
- Licence : open source (MIT)
- Fonctionnement : En local. Les modèles tournent sur le Mac ; ils sont téléchargés depuis Hugging Face et rangés dans son cache local. La publication d'un modèle converti vers Hugging Face se fait sur demande (option --upload-repo).
- Systèmes : Mac

## À quoi ça sert

- Converser avec un modèle dans le terminal avec « mlx_lm.chat ».
- Convertir et quantifier en 4 bits un modèle de Hugging Face, puis le republier.
- Affiner un modèle sur ses données avec LoRA, y compris un modèle quantifié.
- Servir un modèle à d'autres applications du Mac avec « mlx_lm.server ».

## Fonctions

- **Génération et chat** : Commandes mlx_lm.generate et mlx_lm.chat, et API Python avec génération en flux et en lots.
- **Conversion et quantification** : mlx_lm.convert transforme un modèle de Hugging Face et peut l'envoyer vers un dépôt.
- **Affinage** : Affinage LoRA ou complet, y compris sur des modèles quantifiés.
- **Serveur local** : Une API inspirée de celle d'OpenAI, que l'éditeur déconseille en production : ses contrôles de sécurité restent basiques.
- **Longs contextes** : Cache clé-valeur à taille fixe, mise en cache des invites et taille de préremplissage réglable.
- **Inférence distribuée** : Répartition de l'inférence et de l'affinage sur plusieurs machines avec mx.distributed.

## Pour qui

Développeurs et utilisateurs avancés de Mac Apple Silicon à l'aise avec Python et le terminal, qui veulent exécuter, convertir ou affiner des modèles localement.

## Ce qu'il faut savoir

- Limites : Aucune interface graphique : tout se fait en ligne de commande ou en Python.
- Limites : Les modèles qui frôlent la taille de la mémoire du Mac sont lents ; l'accélération par mémoire « câblée » demande macOS 15 ou plus récent.
- Confidentialité : Certains modèles exigent l'option trust_remote_code, qui exécute du code fourni avec eux ; MLX LM demande alors confirmation dans le terminal.
- À noter : Sous Linux, le paquet existe aussi en versions CUDA et processeur seul, toujours sur le moteur MLX.
- Configuration demandée par l'éditeur : Mac à puce Apple Silicon, macOS 14.0 ou plus récent, Python natif 3.10 ou plus pour MLX (3.11 ou plus pour mlx-lm). macOS 15 conseillé pour les gros modèles. Aucune mémoire minimale publiée.

## Modèles

Des milliers de modèles de Hugging Face, dont de nombreuses versions quantifiées publiées par l'organisation mlx-community.

- [mlx-community/Llama-3.2-3B-Instruct-4bit (modèle par défaut)](https://quelleia.com/modeles/llama-3-2-3b/)
- [Mistral-7B-Instruct-v0.3](https://quelleia.com/modeles/mistral-7b-v0-3/)

## Sur QUELLE IA

- [Llama 3.2 3B](https://quelleia.com/modeles/llama-3-2-3b/) : Un modèle que MLX LM propose : son score, ses forces, ce qu'il demande.
- [Mistral 7B v0.3](https://quelleia.com/modeles/mistral-7b-v0-3/) : Un modèle que MLX LM propose : son score, ses forces, ce qu'il demande.
- [Les outils de code](https://quelleia.com/outils/) : Pour aller plus loin sur l'usage « pour les développeurs ».
- [Le classement du code](https://quelleia.com/classement/code/) : Pour aller plus loin sur l'usage « pour les développeurs ».
- [Quel modèle tient sur ma machine](https://quelleia.com/local/) : Pour aller plus loin sur l'usage « pour les développeurs ».
- [Les modèles qui tournent en local](https://quelleia.com/classement/locaux/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Ollama & les modèles locaux](https://minilabai.com/guides/ollama-modeles-locaux/) : Servir un modèle local avec Ollama, sur une API compatible OpenAI et Anthropic que la plupart des agents de code savent appeler. Guide du même auteur que QUELLE IA.

## Sources

- https://github.com/ml-explore/mlx-lm/blob/main/README.md
- https://github.com/ml-explore/mlx-lm/blob/main/mlx_lm/LORA.md
- https://github.com/ml-explore/mlx-lm/blob/main/mlx_lm/SERVER.md
- https://pypi.org/project/mlx-lm/
- https://github.com/ml-explore/mlx-lm/blob/main/LICENSE
- https://anaconda.org/conda-forge/mlx-lm
- https://github.com/ml-explore/mlx-lm
- https://ml-explore.github.io/mlx/build/html/install.html
- https://github.com/ml-explore/mlx-lm/releases/latest
- https://github.com/ml-explore/mlx/blob/main/docs/src/_static/mlx_logo.png