# FastFlowLM

Faire tourner un modèle sur son ordinateur. Fiche « Apps et logiciels d'IA » de QUELLE IA, d'après les pages officielles (novembre 2026). Page : https://quelleia.com/logitheque/fastflowlm/

## Télécharger

- Windows : Dépôt officiel, https://github.com/ROCm/FastFlowLM/releases/latest/download/flm-setup.msi (Installeur flm-setup.msi pour Windows 11, dans la dernière version publiée sur GitHub (une archive ZIP existe aussi))
- Linux : Dépôt officiel, https://github.com/ROCm/FastFlowLM/releases/latest (Paquets .deb pour Ubuntu 24.04, 25.10 et 26.04 et Debian 13, ou archive tar.gz pour les autres distributions, dans la dernière version publiée sur GitHub)
- Linux : Site de l'éditeur, https://fastflowlm.com/docs/install_lin/ (Guide d'installation pour Linux (Ubuntu, Arch et autres), avec le pilote et le micrologiciel du NPU)

## En bref

FastFlowLM, ou FLM, fait tourner des modèles d'IA sur le NPU des processeurs AMD Ryzen AI, la puce dédiée à l'IA, sans solliciter la carte graphique ni le processeur. Il se pilote par une commande, flm, à la manière d'Ollama, et sert les modèles aux autres applications par un serveur compatible avec l'API d'OpenAI. Né en 2025 d'un projet de recherche universitaire, il fait partie d'AMD depuis juillet 2026.

Pourquoi il est là : C'est le moteur qui fait tourner les modèles sur le NPU des Ryzen AI : Lemonade et Unsloth Desktop s'appuient sur lui pour le NPU.

- Éditeur : AMD
- Prix : Gratuit, y compris pour un usage commercial
- Licence : open source (MIT)
- Fonctionnement : En local. Les modèles tournent sur le NPU de l'ordinateur ; le réseau sert à télécharger les modèles depuis Hugging Face et à vérifier les mises à jour.
- Systèmes : Windows, Linux

## À quoi ça sert

- Discuter dans le terminal avec un modèle téléchargé à la demande, par exemple « flm run qwen3.5:4b » ; « flm list » montre les modèles disponibles.
- Servir un modèle à Open WebUI, à un agent ou à un script par « flm serve », sur le port 52625 par défaut.
- Transcrire et résumer de longs enregistrements avec Whisper, ou décrire une image avec un modèle de vision, sur le NPU.

## Fonctions

- **Commande flm** : flm run pour discuter, flm serve pour le serveur, flm pull pour télécharger un modèle (--force le retélécharge s'il est abîmé), flm list pour la liste. /verbose affiche les vitesses pendant la discussion.
- **Serveur compatible OpenAI** : API REST et compatible OpenAI, avec appel d'outils, sortie structurée et cache des débuts de conversation ; le serveur change seul de modèle quand une requête en demande un autre.
- **Texte, vision, son et embeddings** : Modèles de langage, de vision, de transcription (Whisper), d'embeddings et à mélange d'experts, avec un contexte jusqu'à 256 000 jetons selon le modèle.
- **Carte graphique Radeon (préversion)** : Depuis la version 1.0.13, sous Windows, un moteur en préversion (oga-hipep) fait aussi tourner 13 modèles sur la puce graphique Radeon, de Gemma 3 4B à GPT-OSS 120B.

## Pour qui

Les possesseurs d'un PC portable ou d'un mini-PC à Ryzen AI 300, Ryzen AI 400 ou Ryzen AI Max qui veulent un modèle local peu gourmand en énergie et laisser la carte graphique libre.

## Ce qu'il faut savoir

- Limites : Seuls les NPU XDNA 2 fonctionnent : Ryzen AI 300 (Strix Point, Krackan Point), Ryzen AI Max (Strix Halo), Ryzen AI 400 (Gorgon Point) et Ryzen Z2 Extreme. Les Ryzen 7000, 8000 et 200, à NPU XDNA 1, ne sont pas pris en charge.
- Limites : Sous Windows, il faut le pilote du NPU d'AMD en version 32.0.203.311 ou plus récente. Sous Linux, un noyau 7.0 ou plus avec le pilote amdxdna (ou amdxdna-dkms), le micrologiciel du NPU 1.1.0.0 ou plus et une limite memlock relevée.
- À noter : Les modèles, préparés pour le NPU (format Q4NX), se téléchargent depuis Hugging Face ; ils ne se mélangent pas avec les GGUF d'Ollama ou de LM Studio.
- Confidentialité : Tout tourne sur la machine, hors ligne une fois le modèle téléchargé. Au lancement, FLM vérifie s'il existe une nouvelle version ; FLM_DISABLE_UPDATE_CHECK=1 coupe cette vérification. Depuis la version 1.0.13, le serveur refuse par défaut les requêtes de navigateur venues d'une autre machine.
- Langues : La commande et la documentation sont en anglais ; les modèles, eux, répondent en français selon leurs capacités.
- Interface en français : non
- Configuration demandée par l'éditeur : Windows 11 ou Linux x64, processeur Ryzen AI à NPU XDNA 2 ; 32 Go de mémoire conseillés, 16 Go possibles avec de petits modèles et un contexte court.

## Modèles

Familles Llama, DeepSeek, Qwen, Gemma, MedGemma, TranslateGemma, gpt-oss, LFM, Phi, Nanbeige, Whisper, EmbeddingGemma, Hy-MT2, Hy-Memory, MiniCPM et Nemotron Bolt, entre autres, toutes en version Q4NX pour le NPU.

- [gpt-oss:20b](https://quelleia.com/modeles/gpt-oss-20b/)
- [qwen3.5:4b](https://quelleia.com/modeles/qwen3-5-4b/)
- qwen3.6-moe:35b-a3b
- [gemma4-it:e4b](https://quelleia.com/modeles/gemma-4-e4b-it/)

## Sur QUELLE IA

- [gpt-oss-20b](https://quelleia.com/modeles/gpt-oss-20b/) : Un modèle que FastFlowLM propose : son score, ses forces, ce qu'il demande.
- [Qwen3.5-4B](https://quelleia.com/modeles/qwen3-5-4b/) : Un modèle que FastFlowLM propose : son score, ses forces, ce qu'il demande.
- [Quel modèle tient sur ma machine](https://quelleia.com/local/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Les modèles qui tournent en local](https://quelleia.com/classement/locaux/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Les IA sans censure à installer](https://quelleia.com/non-censures/local/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Trouver mon modèle](https://quelleia.com/trouver/) : Pour aller plus loin sur l'usage « ia locale sur ordinateur ».
- [Ollama & les modèles locaux](https://minilabai.com/guides/ollama-modeles-locaux/) : Servir un modèle local avec Ollama, sur une API compatible OpenAI et Anthropic que la plupart des agents de code savent appeler. Guide du même auteur que QUELLE IA.

## Sources

- https://github.com/ROCm/FastFlowLM/blob/main/README.md
- https://github.com/ROCm/FastFlowLM/blob/main/flm_story.md
- https://unsloth.ai/docs/get-started/install/amd/amd-npu
- https://fastflowlm.com/docs/install_lin/
- https://fastflowlm.com/
- https://github.com/ROCm/FastFlowLM/releases/tag/v1.0.11
- https://github.com/ROCm/FastFlowLM/releases/tag/v1.0.13
- https://fastflowlm.com/docs/
- https://github.com/ROCm/FastFlowLM/releases/latest/download/flm-setup.msi
- https://github.com/ROCm/FastFlowLM/releases/latest
- https://github.com/ROCm/FastFlowLM/blob/main/LICENSE_BINARY.txt
- https://fastflowlm.com/docs/models/
- https://fastflowlm.com/docs/install_win/
- https://github.com/ROCm/FastFlowLM/blob/main/assets/logo.png
