{
 "id": "vllm",
 "nom": "vLLM",
 "url": "https://quelleia.com/logitheque/vllm/",
 "usages": [
  {
   "id": "developpeurs",
   "nom": "Pour les développeurs",
   "url": "https://quelleia.com/logitheque/usages/developpeurs/"
  }
 ],
 "resume": {
  "texte": "vLLM est une bibliothèque Python et un serveur conçus pour servir des modèles de langage à grande échelle, avec un débit élevé grâce à sa gestion de la mémoire (PagedAttention) et au traitement en lots continu. Né au Sky Computing Lab de l'université de Berkeley, le projet réunit plus de 2 000 contributeurs. Il est compatible avec l'API d'OpenAI et prend en charge plus de 200 architectures de modèles.",
  "sources": [
   "https://github.com/vllm-project/vllm/blob/main/README.md",
   "https://vllm.ai/"
  ]
 },
 "pourquoi": {
  "texte": "Il sert un modèle ouvert à de nombreux utilisateurs simultanés sur ses propres cartes graphiques, avec une API compatible OpenAI.",
  "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
  "lu": "2026-10-18"
 },
 "pour_qui": {
  "texte": "Développeurs et équipes d'infrastructure qui déploient des modèles ouverts sur des serveurs Linux équipés de cartes graphiques, du poste de travail au centre de données.",
  "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
  "lu": "2026-10-18"
 },
 "a_quoi_ca_sert": [
  {
   "texte": "Lancer un serveur compatible OpenAI pour un modèle de Hugging Face et y brancher ses applications.",
   "source": "https://docs.vllm.ai/en/latest/getting_started/quickstart/",
   "lu": "2026-10-18"
  },
  {
   "texte": "Traiter un grand volume de requêtes hors ligne depuis un script Python.",
   "source": "https://docs.vllm.ai/en/latest/getting_started/quickstart/",
   "lu": "2026-10-18"
  },
  {
   "texte": "Répartir un très grand modèle sur plusieurs cartes graphiques ou plusieurs machines.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "texte": "Servir plusieurs adaptations LoRA d'un même modèle à la fois.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  }
 ],
 "fonctions": [
  {
   "nom": "PagedAttention",
   "texte": "Gestion de la mémoire du cache d'attention qui permet de servir plus de requêtes en parallèle.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "nom": "Traitement en lots continu",
   "texte": "Les nouvelles requêtes rejoignent le calcul en cours, avec cache de préfixe et préremplissage par morceaux.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "nom": "Quantification",
   "texte": "Formats FP8, MXFP4, NVFP4, INT8, INT4, GPTQ, AWQ, GGUF et d'autres.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "nom": "Décodage spéculatif",
   "texte": "Méthodes n-gram, suffixe, EAGLE et DFlash pour accélérer la génération.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "nom": "Parallélisme",
   "texte": "Parallélisme de tenseurs, de pipeline, de données, d'experts et de contexte pour l'inférence distribuée.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  },
  {
   "nom": "API et outils",
   "texte": "Serveur compatible OpenAI, API Messages d'Anthropic, gRPC, sorties structurées, appels d'outils et analyse du raisonnement.",
   "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
   "lu": "2026-10-18"
  }
 ],
 "a_savoir": [
  {
   "sujet": "limites",
   "texte": "Côté PC, Linux seulement : vLLM ne tourne pas nativement sous Windows, et la documentation renvoie à WSL ou à des versions communautaires.",
   "source": "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
   "lu": "2026-10-18"
  },
  {
   "sujet": "limites",
   "texte": "Sur Mac, l'accélération passe par vLLM-Metal, un module de la communauté qui s'appuie sur MLX.",
   "source": "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
   "lu": "2026-10-18"
  },
  {
   "sujet": "donnees",
   "texte": "vLLM envoie par défaut des statistiques d'usage anonymes (matériel, architecture du modèle, réglages) ; la documentation explique comment les couper.",
   "source": "https://docs.vllm.ai/en/latest/usage/usage_stats/",
   "lu": "2026-10-18"
  },
  {
   "sujet": "limites",
   "texte": "Pour les cartes AMD (ROCm), les paquets prêts à installer n'existent que pour Python 3.12 ; avec une autre version, l'installation bascule sans prévenir sur le paquet CUDA et échoue.",
   "source": "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
   "lu": "2026-10-18"
  }
 ],
 "francais": null,
 "editeur": {
  "nom": "vLLM",
  "nom_legal": "Projet vLLM (communauté issue du Sky Computing Lab de l'université de Berkeley)",
  "maison_mere": null,
  "marque": "vLLM",
  "pays": null,
  "pays_source": null,
  "site": "https://vllm.ai",
  "source": "https://github.com/vllm-project/vllm/blob/main/README.md",
  "page_quelle_ia": null
 },
 "systemes": [
  "linux"
 ],
 "telechargements": [
  {
   "systeme": "linux",
   "voie": "paquet",
   "lien": "https://pypi.org/project/vllm/",
   "texte": "« uv pip install vllm » ; Python 3.11 à 3.14",
   "ipad": false,
   "lu": "2026-10-18"
  },
  {
   "systeme": "linux",
   "voie": "paquet",
   "lien": "https://hub.docker.com/r/vllm/vllm-openai",
   "texte": "Image Docker du serveur compatible OpenAI",
   "ipad": false,
   "lu": "2026-10-18"
  },
  {
   "systeme": "linux",
   "voie": "depot",
   "lien": "https://github.com/vllm-project/vllm/releases/latest",
   "texte": "Versions publiées et paquets CUDA 12.8, 12.9 et 13.0",
   "ipad": false,
   "lu": "2026-10-18"
  }
 ],
 "prix": {
  "texte": "Gratuit",
  "formules": [
   "gratuit"
  ],
  "source": "https://github.com/vllm-project/vllm/blob/main/LICENSE",
  "lu": "2026-10-18",
  "abonnement": null
 },
 "licence": {
  "code_ouvert": true,
  "nom": "Apache-2.0",
  "texte": null,
  "source": "https://github.com/vllm-project/vllm/blob/main/LICENSE"
 },
 "fonctionnement": {
  "mode": "local",
  "texte": "Les modèles tournent sur la machine de l'utilisateur ; ils sont téléchargés depuis Hugging Face par défaut, ou depuis ModelScope sur option. Des statistiques d'usage anonymes partent par défaut vers l'équipe du projet.",
  "source": "https://docs.vllm.ai/en/latest/getting_started/quickstart/"
 },
 "modeles": {
  "texte": "Plus de 200 architectures de Hugging Face : modèles denses, mélanges d'experts, modèles hybrides, multimodaux et d'embeddings. Le site met en avant les modèles ouverts récents.",
  "source": "https://vllm.ai/",
  "liste": [
   {
    "ecrit": "DeepSeek V4",
    "url": null
   },
   {
    "ecrit": "Gemma 4",
    "url": null
   },
   {
    "ecrit": "Kimi K3",
    "url": "https://quelleia.com/modeles/kimi-k3/"
   },
   {
    "ecrit": "GLM 5.2",
    "url": "https://quelleia.com/modeles/glm-5-2/"
   },
   {
    "ecrit": "MiniMax M3",
    "url": "https://quelleia.com/modeles/minimax-m3/"
   },
   {
    "ecrit": "Mistral Small 4",
    "url": "https://quelleia.com/modeles/mistral-small-4/"
   },
   {
    "ecrit": "Nemotron 3 Ultra",
    "url": "https://quelleia.com/modeles/nemotron-3-ultra/"
   },
   {
    "ecrit": "Muse Glimmer",
    "url": "https://quelleia.com/modeles/muse-glimmer/"
   }
  ]
 },
 "configuration": {
  "texte": "Linux, Python 3.11 à 3.14. NVIDIA : « compute capability 7.5 or higher (e.g., T4, RTX20xx, A100, L4, H100, B200, etc.) ». AMD : ROCm 6.3 ou plus, Instinct MI200, MI300 et MI350, Radeon RX 7900 et RX 9000, Ryzen AI MAX et AI 300 (ROCm 7.0.2 ou plus). Intel : cartes Data Center et Arc, Python 3.12. Apple Silicon : macOS Sonoma ou plus via vLLM-Metal. Aucune mémoire minimale publiée.",
  "gpu": "NVIDIA RTX 20 ou plus récente (capacité 7.5), Radeon RX 7900",
  "source": "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
  "lu": "2026-10-18"
 },
 "maintenance": {
  "version": "v0.31.0",
  "date": "2026-10-05",
  "source": "https://github.com/vllm-project/vllm/releases/latest"
 },
 "france": {
  "disponible": true,
  "texte": "Paquets publiés sur PyPI, Docker Hub et GitHub, sans restriction de pays indiquée.",
  "source": "https://pypi.org/project/vllm/",
  "lu": "2026-10-18"
 },
 "pages_liees": [
  {
   "nom": "Kimi K3",
   "url": "https://quelleia.com/modeles/kimi-k3/"
  },
  {
   "nom": "GLM-5.2",
   "url": "https://quelleia.com/modeles/glm-5-2/"
  },
  {
   "nom": "Les outils de code",
   "url": "https://quelleia.com/outils/"
  },
  {
   "nom": "Le classement du code",
   "url": "https://quelleia.com/classement/code/"
  },
  {
   "nom": "Quel modèle tient sur ma machine",
   "url": "https://quelleia.com/local/"
  }
 ],
 "avec_un_modele_local": {
  "url": "https://minilabai.com/guides/ollama-modeles-locaux/",
  "titre": "Ollama & les modèles locaux",
  "note": "Guide du même auteur que QUELLE IA"
 },
 "liens_utiles": [
  {
   "titre": "Documentation",
   "lien": "https://docs.vllm.ai/en/latest/",
   "verifie_http": 200
  },
  {
   "titre": "Installation sur carte graphique",
   "lien": "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
   "verifie_http": 200
  },
  {
   "titre": "Démarrage rapide",
   "lien": "https://docs.vllm.ai/en/latest/getting_started/quickstart/",
   "verifie_http": 200
  },
  {
   "titre": "Statistiques d'usage et désactivation",
   "lien": "https://docs.vllm.ai/en/latest/usage/usage_stats/",
   "verifie_http": 200
  }
 ],
 "verifie": "2026-10-18",
 "sources": [
  "https://github.com/vllm-project/vllm/blob/main/README.md",
  "https://vllm.ai/",
  "https://docs.vllm.ai/en/latest/getting_started/quickstart/",
  "https://docs.vllm.ai/en/latest/getting_started/installation/gpu/",
  "https://docs.vllm.ai/en/latest/usage/usage_stats/",
  "https://pypi.org/project/vllm/",
  "https://hub.docker.com/r/vllm/vllm-openai",
  "https://github.com/vllm-project/vllm/releases/latest",
  "https://github.com/vllm-project/vllm/blob/main/LICENSE",
  "https://github.com/vllm-project/vllm/blob/main/docs/assets/logos/vllm-logo-only-light.png"
 ],
 "regle": "Un logiciel ou une appli entre dans cette sélection s'il est l'application officielle d'un éditeur de modèles ou s'il est maintenu (une version publiée depuis moins de 6 mois au jour du relevé, date lue sur la boutique ou le dépôt), s'il est disponible en France et s'il sert vraiment l'usage où il est rangé. Dans chaque liste, l'ordre est alphabétique : QUELLE IA ne note pas les logiciels et ne les classe pas."
}