Le seul chiffre qui décide si un modèle d’IA tourne sur une carte graphique, c’est sa mémoire (VRAM). La vitesse ne décide que de la rapidité. Cette page donne la règle de base, puis les chiffres pour les modèles de chat, les modèles d’images et l’entraînement — et la carte à louer pour chacun.
La règle de base
La mémoire d’un modèle, ce sont surtout ses poids :
- Pleine précision (16 bits) : environ 2 Go par milliard de paramètres.
- 8 bits : environ 1 Go par milliard.
- 4 bits (Q4, le choix habituel) : environ 0,6 Go par milliard.
Ajoutez ensuite 10 à 30 % pour la conversation (le « contexte », ou cache KV) — plus pour de longs documents, moins pour de courtes discussions. Un modèle de 7 milliards demande donc environ 14 Go en 16 bits, mais seulement 5 Go environ en 4 bits. Les modèles en 4 bits perdent très peu de qualité pour le chat : c’est pourquoi des outils comme Ollama les utilisent par défaut.
Modèles de chat (LLM)
| Paramètres | 4 bits | 8 bits | 16 bits | Carte la moins chère qui suffit (4 bits) |
|---|---|---|---|---|
| 3 milliards | ~2,5 Go | ~4 Go | ~7 Go | n’importe quelle carte de 8 Go |
| 7 à 8 milliards | ~5 Go | ~9 Go | ~16 Go | RTX 3060 12 Go · environ 0,14 $US/h |
| 14 milliards | ~9 Go | ~16 Go | ~30 Go | cartes de 12 Go · RTX 4070 environ 0,21 $US/h |
| 20 à 24 milliards | ~14 Go | ~25 Go | ~48 Go | cartes de 16 Go · RTX 4060 Ti 16 Go environ 0,18 $US/h |
| 32 milliards | ~20 Go | ~35 Go | ~66 Go | cartes de 24 Go · RTX 3090 environ 0,31 $US/h |
| 70 milliards | ~42 Go | ~75 Go | ~145 Go | cartes de 48 Go · RTX 6000 Ada environ 0,56 $US/h |
| 120 milliards | ~70 Go | ~125 Go | ~240 Go | cartes de 80 Go · A100 80 Go environ 1,05 $US/h |
| 400 milliards et plus | ~240 Go et plus | — | — | plusieurs cartes de 80 Go ensemble |
Les modèles « MoE » (mélange d’experts, comme gpt-oss ou les plus gros modèles de DeepSeek) ont besoin de mémoire pour tous leurs paramètres, même si seuls certains servent à chaque mot : dimensionnez-les d’après leur nombre total de paramètres.
Les longs contextes coûtent de la mémoire. Un modèle de 32 milliards qui tient sur une carte de 24 Go pour discuter peut en manquer avec un document de 100 pages dans le prompt. Si vous prévoyez de longues entrées, prenez la taille au-dessus.
Modèles d’images et de vidéo
| Modèle | Confortable | Minimum (avec quelques astuces) |
|---|---|---|
| Stable Diffusion 1.5 | 8 Go | 4 Go |
| SDXL | 12 Go | 8 Go |
| Flux.1 (dev / schnell) | 24 Go | 12 Go en FP8, ~8 Go en 4 bits |
| Modèles vidéo (Wan, HunyuanVideo, LTX) | 24 à 48 Go | 16 Go, lentement |
Pour les images, une carte de 24 Go comme la RTX 4090 (0,49 $US/h) ou la RTX 3090 (0,31 $US/h) fait tourner en pleine qualité tout ce qui est populaire. Plus de détails dans Générer des images IA sur un GPU loué.
Entraînement et fine-tuning
L’entraînement demande bien plus de mémoire que l’utilisation d’un modèle, car l’optimiseur garde des copies supplémentaires de chaque poids.
| Méthode | Modèle de 7 à 8 milliards | 13 à 14 milliards | 70 milliards |
|---|---|---|---|
| QLoRA (base en 4 bits + petits adaptateurs) | ~10 à 16 Go | ~18 à 24 Go | ~48 à 80 Go |
| LoRA (base en 16 bits) | ~20 à 24 Go | ~35 à 40 Go | 2 cartes de 80 Go ou plus |
| Fine-tuning complet | ~80 à 120 Go | ~160 Go et plus | de nombreuses cartes de 80 Go |
QLoRA sur une seule carte de 24 Go, c’est aujourd’hui la façon la plus courante d’affiner un modèle de 7 ou 8 milliards de paramètres. Voir Fine-tuning d’un LLM sur un GPU loué.
Quand une carte ne suffit pas
Louez plusieurs machines ensemble : un cluster leur donne un réseau privé entre elles, pour répartir un modèle ou un entraînement (vLLM, le mode RPC de llama.cpp, PyTorch distribué). Pour les très gros travaux qui se découpent en morceaux indépendants — embeddings, évaluation, rendu, traitement de données —, un lot (batch) répartit jusqu’à 100 000 tâches sur toutes les machines libres à la fois, en un seul appel d’API.
Questions fréquentes
Un GPU plus rapide aide-t-il si le modèle ne tient pas ?
Non. Si un modèle ne tient pas en mémoire, soit il refuse de se charger, soit il déborde sur la mémoire principale de l’ordinateur, ce qui le rend bien plus lent. D’abord que le modèle tienne, ensuite la vitesse.
12 Go suffisent-ils pour l’IA en 2026 ?
Pour discuter avec des modèles de 7 à 14 milliards de paramètres et pour générer des images SDXL, oui. Pour les modèles de chat de 32 milliards et Flux en pleine qualité, 24 Go est la taille confortable.
La mémoire vive (RAM) de l’ordinateur compte-t-elle ?
Un peu : le modèle est chargé en passant par elle, alors prévoyez au moins autant de RAM que la taille du fichier du modèle. Chaque annonce ici indique la RAM de la machine, ses cœurs de processeur et son espace disque libre, et vous pouvez filtrer selon ces critères.