llamafile

Ce que c'est

On télécharge le fichier, on le rend exécutable, et une discussion s'ouvre dans le terminal, doublée d'une interface web locale. Né chez Mozilla Builders, le projet a été repris par Mozilla.ai et continue de recevoir des versions.

À quoi ça sert

• Lancer Qwen3.5 0.8B en local en un seul fichier et lui envoyer des images avec la commande /upload. docs.mozilla.ai
• Brancher d'autres programmes sur un modèle local, grâce à une API compatible avec celle d'OpenAI et avec l'API Messages d'Anthropic. docs.mozilla.ai
• Transcrire ou traduire des fichiers audio avec whisperfile, la variante pour la parole. github.com
• Transformer son propre modèle GGUF en llamafile pour le partager. github.com

Fonctions

Fichier unique

Poids du modèle, moteur et serveur tiennent dans un exécutable qui marche sur tous ces systèmes, grâce à Cosmopolitan Libc. github.com

Discussion en terminal et web

Interface de discussion dans le terminal et interface web de llama.cpp sur localhost:8080. docs.mozilla.ai

API locale

Point d'accès compatible avec l'API d'OpenAI et l'API Messages d'Anthropic. docs.mozilla.ai

Accélération graphique

Prise en charge de Metal (Apple), NVIDIA, AMD et Vulkan ; sinon calcul sur le processeur. docs.mozilla.ai

whisperfile

Transcription et traduction audio en un seul fichier, sur la base de whisper.cpp. github.com

Pour qui

Développeurs, amateurs et organisations à l'aise avec un terminal, qui veulent essayer ou distribuer un modèle ouvert sans infrastructure. mozilla.ai

Ce qu'il faut savoir

En local

Selon la documentation, tout se passe en local et aucune donnée ne quitte l'ordinateur ; seul le téléchargement du fichier passe par internet. docs.mozilla.ai

Limites

Sous Windows, un exécutable ne peut pas dépasser 4 Go : pour les modèles plus lourds, on lance llamafile avec des poids GGUF à part. github.com

Limites

Depuis la 0.10.0, llamafile suit de plus près llama.cpp, mais certaines fonctions des anciennes versions ont disparu. github.com

Limites

Les processeurs x86-64 doivent gérer les instructions AVX ; sur Mac, le calcul sur la puce graphique demande une puce Apple (ARM64). docs.mozilla.ai

À noter

L'ancien dépôt Mozilla-Ocho/llamafile renvoie désormais vers mozilla-ai/llamafile. github.com

Configuration

Linux 2.6.18 ou plus récent, macOS (noyau Darwin 23.1.0 ou plus récent), Windows 10 ou plus récent (AMD64), FreeBSD 13, NetBSD 9.2, OpenBSD 7.0 à 7.4 ; processeur x86-64 avec AVX ou ARMv8a. docs.mozilla.ai

Prix

Gratuit github.com

Licence

Open source, licence Apache-2.0. L'API GitHub renvoie « NOASSERTION », mais le fichier LICENSE est l'Apache 2.0 ; les modifications de llama.cpp et whisper.cpp restent sous MIT. github.com

Modèles

Tout modèle GGUF, et une liste de llamafiles prêts à l'emploi publiée par Mozilla.ai sur Hugging Face. docs.mozilla.ai

• Qwen3.5 0.8B
• Qwen3.5 2B
• Qwen3.5 4B
• Qwen3.5 9B
• Ministral 3 3B Instruct 2512
• llava v1.6 mistral 7b
• Apertus 8B Instruct 2509
• Gemma 3 4B Instruct

Les noms surlignés ont leur fiche sur QUELLE IA : score, forces, mémoire demandée.

Sur QUELLE IA

• Qwen3.5-0.8B →Un modèle que llamafile propose : son score, ses forces, ce qu'il demande.
• Qwen3.5-2B →Un modèle que llamafile propose : son score, ses forces, ce qu'il demande.
• Quel modèle tient sur ma machine →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
• Les modèles qui tournent en local →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
• Trouver mon modèle →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».

Sources

Sources : pages de l'éditeur, des boutiques et du dépôt, octobre 2026.

Société éditrice : MZL.AI, PBC.

• github.com/mozilla-ai/llamafile/blob/main/README.md
• docs.mozilla.ai/llamafile/getting-started/quickstart
• www.mozilla.ai/open-tools/llamafile
• docs.mozilla.ai/llamafile/reference/support
• github.com/Mozilla-Ocho/llamafile
• github.com/mozilla-ai/llamafile/releases/latest
• huggingface.co/mozilla-ai/llamafile_0.10
• github.com/mozilla-ai/llamafile/blob/main/LICENSE
• docs.mozilla.ai/llamafile/getting-started/pre-built-llamafiles
• github.com/mozilla-ai/llamafile/blob/main/docs/images/llamafile-640x640.png

Icône : Mozilla.ai, dépôt officiel.

Faire tourner un modèle sur son ordinateur →Apps et logiciels d'IA : tout voir →Signaler une erreur →

Cette fiche existe aussi en texte et en JSON.