# llamafile

Faire tourner un modèle sur son ordinateur. Fiche « Apps et logiciels d'IA » de QUELLE IA, d'après les pages officielles (octobre 2026). Page : https://quelleia.com/logitheque/llamafile/

## Télécharger

- Linux : Dépôt officiel, https://github.com/mozilla-ai/llamafile/releases/latest (Binaire llamafile multiplateforme (Linux, macOS, Windows, BSD))
- Mac : Dépôt officiel, https://github.com/mozilla-ai/llamafile/releases/latest (Même binaire ; noyau Darwin 23.1.0 ou plus récent, calcul graphique sur puce ARM64 seulement)
- Windows : Dépôt officiel, https://github.com/mozilla-ai/llamafile/releases/latest (Même binaire, à renommer en .exe ; Windows 10 ou plus récent, AMD64)
- Linux : Site de l'éditeur, https://huggingface.co/mozilla-ai/llamafile_0.10 (Modèles prêts à l'emploi publiés par Mozilla.ai sur Hugging Face)

## En bref

llamafile, de Mozilla.ai, réunit un modèle, le moteur llama.cpp et tout ce qu'il faut pour le lancer dans un seul fichier, qui tourne sans installation sur Windows, macOS, Linux et BSD. On télécharge le fichier, on le rend exécutable, et une discussion s'ouvre dans le terminal, doublée d'une interface web locale. Né chez Mozilla Builders, le projet a été repris par Mozilla.ai et continue de recevoir des versions.

Pourquoi il est là : Un modèle ouvert se partage et se lance comme un simple fichier, sans rien installer.

- Éditeur : Mozilla.ai, États-Unis
- Prix : Gratuit
- Licence : open source (Apache-2.0)
- Fonctionnement : En local. Selon la documentation, tout se passe en local et aucune donnée ne quitte l'ordinateur ; seul le téléchargement du fichier passe par internet.
- Systèmes : Mac, Windows, Linux

## À quoi ça sert

- Lancer Qwen3.5 0.8B en local en un seul fichier et lui envoyer des images avec la commande /upload.
- Brancher d'autres programmes sur un modèle local, grâce à une API compatible avec celle d'OpenAI et avec l'API Messages d'Anthropic.
- Transcrire ou traduire des fichiers audio avec whisperfile, la variante pour la parole.
- Transformer son propre modèle GGUF en llamafile pour le partager.

## Fonctions

- **Fichier unique** : Poids du modèle, moteur et serveur tiennent dans un exécutable qui marche sur tous ces systèmes, grâce à Cosmopolitan Libc.
- **Discussion en terminal et web** : Interface de discussion dans le terminal et interface web de llama.cpp sur localhost:8080.
- **API locale** : Point d'accès compatible avec l'API d'OpenAI et l'API Messages d'Anthropic.
- **Accélération graphique** : Prise en charge de Metal (Apple), NVIDIA, AMD et Vulkan ; sinon calcul sur le processeur.
- **whisperfile** : Transcription et traduction audio en un seul fichier, sur la base de whisper.cpp.

## Pour qui

Développeurs, amateurs et organisations à l'aise avec un terminal, qui veulent essayer ou distribuer un modèle ouvert sans infrastructure.

## Ce qu'il faut savoir

- Limites : Sous Windows, un exécutable ne peut pas dépasser 4 Go : pour les modèles plus lourds, on lance llamafile avec des poids GGUF à part.
- Limites : Depuis la 0.10.0, llamafile suit de plus près llama.cpp, mais certaines fonctions des anciennes versions ont disparu.
- Limites : Les processeurs x86-64 doivent gérer les instructions AVX ; sur Mac, le calcul sur la puce graphique demande une puce Apple (ARM64).
- À noter : L'ancien dépôt Mozilla-Ocho/llamafile renvoie désormais vers mozilla-ai/llamafile.
- Configuration demandée par l'éditeur : Linux 2.6.18 ou plus récent, macOS (noyau Darwin 23.1.0 ou plus récent), Windows 10 ou plus récent (AMD64), FreeBSD 13, NetBSD 9.2, OpenBSD 7.0 à 7.4 ; processeur x86-64 avec AVX ou ARMv8a.

## Modèles

Tout modèle GGUF, et une liste de llamafiles prêts à l'emploi publiée par Mozilla.ai sur Hugging Face.

- [Qwen3.5 0.8B](https://quelleia.com/modeles/qwen3-5-0-8b/)
- [Qwen3.5 2B](https://quelleia.com/modeles/qwen3-5-2b/)
- [Qwen3.5 4B](https://quelleia.com/modeles/qwen3-5-4b/)
- [Qwen3.5 9B](https://quelleia.com/modeles/qwen3-5-9b/)
- [Ministral 3 3B Instruct 2512](https://quelleia.com/modeles/ministral-3-3b/)
- [llava v1.6 mistral 7b](https://quelleia.com/modeles/llava-v1-6-mistral-7b/)
- Apertus 8B Instruct 2509
- [Gemma 3 4B Instruct](https://quelleia.com/modeles/gemma-3-4b/)

## Sur QUELLE IA

- [Qwen3.5-0.8B](https://quelleia.com/modeles/qwen3-5-0-8b/) : Un modèle que llamafile propose : son score, ses forces, ce qu'il demande.
- [Qwen3.5-2B](https://quelleia.com/modeles/qwen3-5-2b/) : Un modèle que llamafile propose : son score, ses forces, ce qu'il demande.
- [Quel modèle tient sur ma machine](https://quelleia.com/local/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Les modèles qui tournent en local](https://quelleia.com/classement/locaux/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Trouver mon modèle](https://quelleia.com/trouver/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Ollama & les modèles locaux](https://minilabai.com/guides/ollama-modeles-locaux/) : Servir un modèle local avec Ollama, sur une API compatible OpenAI et Anthropic que la plupart des agents de code savent appeler. Guide du même auteur que QUELLE IA.

## Sources

- https://github.com/mozilla-ai/llamafile/blob/main/README.md
- https://docs.mozilla.ai/llamafile/getting-started/quickstart
- https://www.mozilla.ai/open-tools/llamafile
- https://docs.mozilla.ai/llamafile/reference/support
- https://github.com/Mozilla-Ocho/llamafile
- https://github.com/mozilla-ai/llamafile/releases/latest
- https://huggingface.co/mozilla-ai/llamafile_0.10
- https://github.com/mozilla-ai/llamafile/blob/main/LICENSE
- https://docs.mozilla.ai/llamafile/getting-started/pre-built-llamafiles
- https://github.com/mozilla-ai/llamafile/blob/main/docs/images/llamafile-640x640.png
