Linux n’a pas d’assistant intégré comme Copilot ou Apple Intelligence. Les assistants en ligne (ChatGPT, Claude, Gemini…) s’y utilisent dans le navigateur ou par leur appli quand elle existe. De nombreux logiciels d’IA locale existent sous Linux : serveurs de modèles, interfaces web à héberger, agents de code. Ce guide part d’une machine sous Ubuntu, Debian ou Fedora, avec une carte graphique NVIDIA ou AMD.
Comment ça marche
Sous Linux, on fait d’habitude tourner le modèle comme un service. Un programme, ici Ollama, démarre avec la machine grâce à systemd, charge les modèles dans la mémoire de la carte graphique et attend les demandes sur un port local, le 11434. Tous vos outils viennent ensuite s’y brancher : le terminal, une interface web comme Open WebUI, un agent de code. Le modèle est chargé une seule fois et sert tout le monde.
À quoi ça sert
- Un ChatGPT chez soi. Open WebUI, branché sur Ollama, donne une interface de discussion dans le navigateur, avec des comptes pour plusieurs personnes.
- Interroger ses documents. La même interface lit vos PDF et répond à partir de leur contenu, sans les envoyer en ligne.
- Brancher un agent de code sur un modèle local. Les agents qui acceptent un serveur compatible OpenAI peuvent utiliser Ollama à la place d’un service payant.
- Dicter et transcrire. Des applis de dictée tournent sur la machine et écrivent dans le champ actif.
- Faire lire un texte. Piper produit une voix française sur un simple processeur.
Installer Ollama

-
Préparez la carte graphique. Pour une carte NVIDIA, installez CUDA depuis la page de téléchargement de NVIDIA, puis vérifiez avec
nvidia-smi, qui doit afficher la carte. Pour une carte AMD, installez ROCm v7 en suivant le guide de démarrage rapide d’AMD ; la documentation d’Ollama conseille aussi le pilote Linux le plus récent d’AMD, celui du noyau pouvant être ancien. -
Installez Ollama avec le script officiel :
curl -fsSL https://ollama.com/install.sh | sh -
Pour une carte AMD, ajoutez le paquet ROCm d’Ollama :
curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst | sudo tar x -C /usr -
Vérifiez que la commande répond :
ollama -v -
Lancez un premier modèle. La documentation d’Ollama prend en exemple un petit modèle de Google ; choisissez le vôtre avec la page Quel modèle tient sur ma machine.
ollama run gemma4:e2b
Installer Ollama sur Linux
- Site de l'éditeur Script d'installation en une ligne ; installation manuelle décrite dans la documentation · relevé le 17 octobre 2026
- Gestionnaire de paquets Image Docker officielle ollama/ollama · relevé le 17 octobre 2026
- Dépôt officiel Archives x64 (dont variante ROCm) et ARM64 (dont Jetson) dans les versions GitHub · relevé le 17 octobre 2026
Faire tourner Ollama en service
Si le script ne l’a pas déjà fait, la documentation d’Ollama décrit la création d’un service systemd :
-
Créez un utilisateur dédié et ajoutez-vous à son groupe :
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami) -
Créez le fichier
/etc/systemd/system/ollama.service:[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" [Install] WantedBy=multi-user.target -
Rechargez systemd, activez le service et démarrez-le :
sudo systemctl daemon-reload sudo systemctl enable ollama sudo systemctl start ollama sudo systemctl status ollama
Pour changer un réglage plus tard (par exemple l’emplacement des modèles), lancez sudo systemctl edit ollama. Les journaux se lisent avec journalctl -e -u ollama.
Bon à savoir. Ollama répond à l’adresse locale
http://localhost:11434. Avant de l’ouvrir au réseau local pour une interface web ou un autre ordinateur, protégez l’accès : n’importe quel appareil du réseau pourrait sinon utiliser vos modèles.
Les autres logiciels d’IA locale
D’autres logiciels complètent Ollama. llama.cpp, le moteur sur lequel reposent beaucoup d’outils, fournit la commande llama pour discuter dans le terminal et un serveur compatible OpenAI. LM Studio existe en AppImage pour Ubuntu 20.04 ou plus récent, si vous préférez une fenêtre. Open WebUI s’installe par pip ou Docker et se branche sur Ollama. vLLM, enfin, est conçu pour servir un modèle à de nombreux utilisateurs, avec un débit élevé.
Faire tourner un modèle sur son ordinateur sur Linux
- AI PlaygroundIntelopen source (MIT)
- AnythingLLMMintplex Labs, États-Unisopen source (MIT)
- FastFlowLMAMDopen source (MIT)
- Foundry LocalMicrosoft, États-Unisopen source (MIT)
- HereticPhilipp Emanuel Weidmann et contributeursopen source (AGPL-3.0-or-later)
- JanMenlo Research, Singapouropen source (Apache-2.0)
- KoboldCppLostRuinsopen source (AGPL-3.0)
- LemonadeAMDopen source (Apache-2.0)
- llama.cppggmlopen source (MIT)
- llamafileMozilla.ai, États-Unisopen source (Apache-2.0)
- LM StudioLM Studio, États-Uniscode fermé
- LocalAILocalAIopen source (MIT)
Rangés par ordre alphabétique, sans note ni classement.
Dicter, transcrire, faire lire
Plusieurs applis de dictée libres tournent sur Linux (Handy, Murmure), comme des outils de transcription de fichiers (Buzz, whisper.cpp). Le guide Transcrire un enregistrement montre whisper.cpp pas à pas, et le guide Synthèse vocale installe Piper.
Transcrire et dicter sur Linux
- BuzzChidi Williamsopen source (MIT)
- FastFlowLMAMDopen source (MIT)
- HandyCJ Paisopen source (MIT)
- MurmureMurmureopen source (AGPL-3.0)
- whisper.cppggmlopen source (MIT)
Rangés par ordre alphabétique, sans note ni classement.
Pour aller plus loin
- Faire tourner une IA sur son ordinateur avec OllamaNiveau Débutant 15 min
- Transcrire un enregistrement en texte, en ligne ou en localNiveau Amateur 18 min
- Synthèse vocale : faire lire un texte, cloner une voixNiveau Amateur 16 min
- L'IA sur Android : Gemini, IA du fabricant et modèles locauxNiveau Débutant 12 min
- L'IA sur iPhone et iPad : applis, Apple Intelligence et localNiveau Débutant 12 min
- L'IA sur Mac : Apple Intelligence, assistants et modèles locauxNiveau Débutant 14 min
Sur mini lab AI, un guide du même auteur reprend ce sujet pour monter son atelier d'IA à la maison.
Sources
- docs.ollama.com, lue le
- docs.ollama.com, lue le
- docs.ollama.com, lue le
- lmstudio.ai, lue le
