Faire tourner un modèle d’IA en local : outils et mémoire nécessaire

Les modèles à poids ouverts peuvent tourner sur votre propre machine ou vos serveurs : rien ne sort de chez vous, pas de coût par token, mais il faut la mémoire nécessaire (carte graphique, ou mémoire unifiée sur Mac).

Les outils

Quelle mémoire pour quel modèle ?

Estimation de la mémoire nécessaire pour charger le modèle quantifié en 4 bits (le réglage courant d’Ollama et LM Studio), avec une marge pour le contexte. En 8 bits, comptez environ le double ; en 16 bits, le quadruple.

Carte graphique 8 Go / ordinateur 16 Go

• Granite 4.2 8B — 8,8 milliards de paramètres, ≈ 6 Go en 4 bits · Hugging Face
• Nemotron 3.5 Content Safety — 4,3 milliards de paramètres, ≈ 3 Go en 4 bits · Hugging Face
• Qwen3.5-9B — 9,7 milliards de paramètres, ≈ 7 Go en 4 bits · Hugging Face
• Ministral 3 8B 2512 — 8,9 milliards de paramètres, ≈ 6 Go en 4 bits · Hugging Face
• Ministral 3 3B 2512 — 3,8 milliards de paramètres, ≈ 3 Go en 4 bits · Hugging Face
• Qwen3 VL 8B Instruct — 8,8 milliards de paramètres, ≈ 6 Go en 4 bits · Hugging Face
• Gemma 3 4B — 4,3 milliards de paramètres, ≈ 3 Go en 4 bits · Hugging Face

Carte graphique 16 Go / Mac 24-32 Go

• Ministral 3 14B 2512 — 13,9 milliards de paramètres, ≈ 10 Go en 4 bits · Hugging Face
• gpt-oss-safeguard-20b — 21,5 milliards de paramètres, ≈ 14 Go en 4 bits · Hugging Face
• gpt-oss-20b — 20,9 milliards de paramètres, ≈ 14 Go en 4 bits · Hugging Face
• Mistral Small 3.2 24B — 24,0 milliards de paramètres, ≈ 16 Go en 4 bits · Hugging Face
• Llama Guard 4 12B — 12,0 milliards de paramètres, ≈ 8 Go en 4 bits · Hugging Face
• Qwen3 14B — 14,8 milliards de paramètres, ≈ 10 Go en 4 bits · Hugging Face
• Mistral Small 3.1 24B — 24,0 milliards de paramètres, ≈ 16 Go en 4 bits · Hugging Face
• Gemma 3 12B — 12,2 milliards de paramètres, ≈ 8 Go en 4 bits · Hugging Face
• Mistral Small 3 — 23,6 milliards de paramètres, ≈ 16 Go en 4 bits · Hugging Face
• Phi 4 — 14,7 milliards de paramètres, ≈ 10 Go en 4 bits · Hugging Face

Carte graphique 24 Go (RTX 3090/4090…)

• Qwen3.8 27B — 27,8 milliards de paramètres, ≈ 18 Go en 4 bits · Hugging Face
• Nemotron 3.5 Lightning — 31,6 milliards de paramètres, ≈ 21 Go en 4 bits · Hugging Face
• Qwen3.6 35B A3B — 36,0 milliards de paramètres, ≈ 24 Go en 4 bits · Hugging Face
• Qwen3.6 27B — 27,8 milliards de paramètres, ≈ 18 Go en 4 bits · Hugging Face
• Gemma 4 26B A4B — 25,8 milliards de paramètres, ≈ 17 Go en 4 bits · Hugging Face
• Gemma 4 31B — 31,3 milliards de paramètres, ≈ 21 Go en 4 bits · Hugging Face
• Qwen3.5-35B-A3B — 36,0 milliards de paramètres, ≈ 24 Go en 4 bits · Hugging Face
• Qwen3.5-27B — 27,8 milliards de paramètres, ≈ 18 Go en 4 bits · Hugging Face
• GLM 4.7 Flash — 31,2 milliards de paramètres, ≈ 21 Go en 4 bits · Hugging Face
• Nemotron 3 Nano 30B A3B — 31,6 milliards de paramètres, ≈ 21 Go en 4 bits · Hugging Face

48 Go (deux GPU ou Mac 64 Go)

• Qwen2.5 VL 72B Instruct — 73,4 milliards de paramètres, ≈ 48 Go en 4 bits · Hugging Face
• Llama 3.3 70B Instruct — 70,6 milliards de paramètres, ≈ 46 Go en 4 bits · Hugging Face

96 Go et plus (station de travail, Mac 128 Go)

• Mistral Small 4 — 119,4 milliards de paramètres, ≈ 77 Go en 4 bits · Hugging Face
• Nemotron 3 Super — 123,6 milliards de paramètres, ≈ 80 Go en 4 bits · Hugging Face
• Qwen3.5-122B-A10B — 125,1 milliards de paramètres, ≈ 81 Go en 4 bits · Hugging Face
• Qwen3 Coder Next — 79,7 milliards de paramètres, ≈ 52 Go en 4 bits · Hugging Face
• Devstral 2 2512 — 125,0 milliards de paramètres, ≈ 81 Go en 4 bits · Hugging Face
• GLM 4.6V — 107,7 milliards de paramètres, ≈ 70 Go en 4 bits · Hugging Face
• Qwen3 Next 80B A3B Instruct — 81,3 milliards de paramètres, ≈ 53 Go en 4 bits · Hugging Face
• GLM 4.5V — 107,7 milliards de paramètres, ≈ 70 Go en 4 bits · Hugging Face
• gpt-oss-120b — 116,8 milliards de paramètres, ≈ 76 Go en 4 bits · Hugging Face
• GLM 4.5 Air — 110,5 milliards de paramètres, ≈ 72 Go en 4 bits · Hugging Face

Serveur multi-GPU

• MiniMax M3.1 Flash — 220,5 milliards de paramètres, ≈ 143 Go en 4 bits · Hugging Face
• Qwen3.8 Flash — 180,0 milliards de paramètres, ≈ 116 Go en 4 bits · Hugging Face
• GLM 5.3 Flash — 321,3 milliards de paramètres, ≈ 207 Go en 4 bits · Hugging Face
• DeepSeek V4 Flash Vision Exp — 304,6 milliards de paramètres, ≈ 197 Go en 4 bits · Hugging Face
• DeepSeek V4 Flash 0731 — 304,2 milliards de paramètres, ≈ 196 Go en 4 bits · Hugging Face
• Nemotron 3 Ultra — 560,5 milliards de paramètres, ≈ 362 Go en 4 bits · Hugging Face
• MiniMax M3 — 427,0 milliards de paramètres, ≈ 276 Go en 4 bits · Hugging Face
• DeepSeek V4 Flash 0423 — 290,9 milliards de paramètres, ≈ 188 Go en 4 bits · Hugging Face
• MiniMax M2.7 — 228,7 milliards de paramètres, ≈ 148 Go en 4 bits · Hugging Face
• Qwen3.5 397B A17B — 403,4 milliards de paramètres, ≈ 260 Go en 4 bits · Hugging Face

Estimations à partir du nombre de paramètres publié sur Hugging Face. Les modèles « à mélange d’experts » (MoE) doivent être chargés entièrement même si seule une partie travaille à chaque token.

Sources : API publique d’OpenRouter, fichier de prix de LiteLLM, taux de référence de la BCE (1 € = 1,1179 $), et vérifications sur les pages officielles des fournisseurs. Prix publics hors taxes, par million de tokens ; les remises, paliers et prix régionaux peuvent différer : la page de tarifs du fournisseur fait foi. Dernière mise à jour : 4 novembre 2026. Données en JSON (CC BY 4.0).