llama.cpp

Ce que c'est

Il fournit la commande « llama » (llama cli pour discuter dans le terminal, llama serve pour un serveur compatible OpenAI avec interface web). D'autres logiciels locaux, dont Jan et LM Studio, l'utilisent comme moteur.

À quoi ça sert

• Télécharger un modèle depuis Hugging Face et discuter avec lui dans le terminal en une commande (« llama cli -hf … »). llama.app
• Lancer un serveur local et discuter dans le navigateur grâce à l'interface web intégrée, qui gère images, PDF ou audio selon le modèle, les branches de conversation et l'export des échanges. llama.app
• Brancher un agent de code (Pi, Codex CLI) ou ChatGPT Desktop sur un modèle servi en local. llama.app
• Servir un modèle à plusieurs utilisateurs sur un réseau, avec clé d'API et traitement parallèle des requêtes. llama.app
• Sur Mac ou Windows 11, installer en un clic un modèle adapté à sa mémoire depuis l'appli Llama, qui choisit les réglages. llama.app

Fonctions

llama cli

Discussion dans le terminal, avec les modèles téléchargés automatiquement depuis Hugging Face. llama.app

llama serve

Serveur HTTP compatible OpenAI (chat, complétions, embeddings), par défaut sur 127.0.0.1:9931 depuis la version 0.7.0. llama.app

Interface web

Une fenêtre de discussion intégrée au serveur : rendu Markdown et LaTeX, raisonnement repliable, pièces jointes, réponses structurées selon un schéma, choix du modèle. llama.app

Quantification

Formats de 1,5 à 8 bits pour réduire la mémoire nécessaire. github.com

Accélération matérielle

Metal (Apple), CUDA (NVIDIA), HIP (AMD), Vulkan, SYCL (Intel) et calcul mixte processeur et carte graphique. github.com

Appli Llama

Appli légère (4 Mo installée sur Mac) pour Mac et Windows 11 qui recommande des modèles selon la machine et les décharge après 5 minutes d'inactivité. llama.app

Pour qui

Les utilisateurs techniques qui veulent la main sur chaque réglage, et ceux qui préfèrent l'appli Llama sur Mac ou Windows 11 pour un usage en quelques clics. llama.app

Ce qu'il faut savoir

En local

Les modèles tournent sur la machine et fonctionnent hors ligne ; internet sert à télécharger les modèles depuis Hugging Face. L'appli Llama pour Mac indique qu'aucune donnée ne quitte l'ordinateur. github.com

Limites

C'est d'abord un outil en ligne de commande. Pour un non-spécialiste, le plus simple est l'appli Llama, sur Mac et Windows 11 seulement. llama.app

Confidentialité

Par défaut, le serveur n'écoute que sur la machine. L'option --host 0.0.0.0 l'ouvre au réseau, et --api-key permet d'exiger une clé. llama.app

À noter

Il sort des versions stables numérotées (la v0.7.0 date du 15 octobre 2026) et, plusieurs fois par jour, des versions de développement « b » prêtes à installer. github.com

À noter

Depuis la v0.7.0, le serveur écoute par défaut sur le port 9931 au lieu de 8080 (les images Docker gardent 8080). github.com

Données

Les modèles se rangent dans le dossier habituel de Hugging Face, partagé avec les autres outils. llama.app

Langues

Aucune traduction française n'est proposée pour l'interface web ni pour l'appli Llama. github.com

Limites

Le site ne précise pas quelle version de macOS il faut pour l'appli Llama. llama.app

Configuration

Appli Llama : Mac ou Windows 11. Modèles conseillés selon la mémoire : Gemma 4 à partir de 16 Go, GPT-OSS à partir de 24 Go, Qwen 3.8 à partir de 32 Go. llama.app

Prix

Gratuit llama.app

Licence

Open source, licence MIT. llama.cpp et les applis Llama pour macOS et Windows sont sous licence MIT. github.com

Modèles

Tout modèle au format GGUF, dont des milliers sont publiés sur Hugging Face ; l'appli Llama propose une sélection adaptée à la mémoire de la machine. llama.app

• Gemma 4 E4B
• gpt-oss 20B
• Qwen3.8 27B
• gemma-4 12B

Les noms surlignés ont leur fiche sur QUELLE IA : score, forces, mémoire demandée.

Sur QUELLE IA

• Gemma 4 E4B IT →Un modèle que llama.cpp propose : son score, ses forces, ce qu'il demande.
• gpt-oss-20b →Un modèle que llama.cpp propose : son score, ses forces, ce qu'il demande.
• Quel modèle tient sur ma machine →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
• Les modèles qui tournent en local →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
• Trouver mon modèle →Pour aller plus loin sur l'usage « ia locale sur ordinateur ».

Sources

Sources : pages de l'éditeur, des boutiques et du dépôt, octobre 2026.

Société éditrice : ggml-org (équipe llama.cpp).

• github.com/ggml-org/llama.cpp
• llama.app/docs/introduction
• llama.app/docs/quickstart
• llama.app/docs/webui
• llama.app/docs/agents
• llama.app/docs/serve
• llama.app
• llama.app/docs/installation
• github.com/ggml-org/llama.cpp/releases
• github.com/ggml-org/llama.cpp/releases/tag/v0.7.0
• llama.app/download/mac
• llama.app/download/windows
• github.com/ggml-org/llama.cpp/blob/master/docs/install.md
• github.com/ggml-org/llama.cpp/blob/master/LICENSE
• github.com/ggml-org/Llama-macOS
• github.com/ggml-org/llama.brand

Icône : llama.cpp (ggml-org/llama.brand, CC BY-NC 4.0 et BRAND-USAGE.md).

Faire tourner un modèle sur son ordinateur →Apps et logiciels d'IA : tout voir →Signaler une erreur →

Cette fiche existe aussi en texte et en JSON.