Une intelligence artificielle peut être gratuite, privée et disponible même quand Internet tombe. Il suffit de la faire tourner directement sur son ordinateur. La promesse est séduisante, jusqu’au moment où un modèle de 20 Go rencontre une carte graphique équipée de 8 Go de mémoire. L’installation réussit, le ventilateur décolle et la première réponse arrive avec la ponctualité d’un train un jour de grève.
Ce test de compatibilité IA locale compare votre carte graphique, votre VRAM, votre mémoire vive, votre espace disque et l’usage prévu. Il recommande ensuite les modèles réellement adaptés pour discuter, programmer, créer des images, transcrire de l’audio ou générer de la vidéo. Le but n’est pas de savoir si un fichier peut techniquement s’ouvrir. Il est de déterminer si l’expérience restera suffisamment fluide pour être utile.
Test de compatibilité IA locale LeBigData
Quelle IA peut réellement tourner sur votre PC ?
Indiquez votre mémoire, votre matériel et votre usage. L’outil distingue les modèles confortables, ceux qui demanderont des compromis et ceux qu’il vaut mieux laisser dans le cloud.
Comment la compatibilité est-elle estimée ?
La VRAM décide avant le processeur
Pour exécuter une IA en local, le nom de la carte graphique compte moins que la quantité de mémoire qu’elle embarque. Une GeForce récente peut calculer très vite, mais elle ne peut pas charger confortablement un modèle plus gros que sa VRAM. Quand les poids débordent, une partie est transférée vers la RAM. Le programme continue parfois à fonctionner, mais les échanges entre le processeur, la mémoire et le GPU font chuter la vitesse.
Cette différence explique pourquoi une carte de 12 ou 16 Go peut être plus intéressante pour l’IA qu’un modèle plus rapide limité à 8 Go. Le jeu vidéo récompense d’abord la puissance de calcul. L’inférence locale exige également de la place pour les poids du modèle, son cache et le contexte de la conversation.
Les logiciels ont leurs propres limites. LM Studio recommande officiellement au moins 16 Go de RAM et 4 Go de VRAM sous Windows. Ce seuil permet de commencer, pas de lancer n’importe quel modèle. Ollama prend en charge les GPU NVIDIA, plusieurs cartes AMD via ROCm ou Vulkan et l’accélération Metal des Mac Apple Silicon, comme le détaille sa documentation matérielle.
Quatre bits peuvent sauver votre carte graphique
Les modèles sont souvent distribués en plusieurs quantifications. Cette opération réduit la précision numérique de leurs poids afin de diminuer leur taille. Une version Q4 utilise grossièrement quatre bits par poids au lieu de seize dans une version BF16. Elle occupe beaucoup moins de mémoire, au prix d’une petite perte de qualité qui reste généralement acceptable pour un usage personnel.
La taille en milliards de paramètres ne se transforme donc pas directement en gigaoctets. Dans Ollama, Qwen3 existe de 0,6 à 235 milliards de paramètres, mais ses variantes quantifiées sont nettement plus légères que les poids originaux. Notre dossier consacré à Qwen 3 détaille les différences entre ses modèles denses et ses architectures à mélange d’experts.
Le MoE ne fait toutefois pas disparaître les poids inutilisés. Qwen3-Coder 30B n’active qu’environ 3,3 milliards de paramètres à chaque étape, ce qui accélère le calcul, mais son fichier quantifié pèse toujours environ 19 Go dans Ollama. Il faut donc assez de mémoire pour charger l’ensemble. Le moteur n’accepte pas de laisser vingt-six milliards de paramètres dans le coffre en attendant leur tour.
8 Go ouvrent le chat, pas Hollywood
Avec 8 Go de VRAM et 16 Go de RAM, un PC peut déjà accueillir des assistants sérieux. Qwen3 8B, DeepSeek-R1 8B ou un petit Gemma offrent une expérience crédible pour rédiger, résumer et poser des questions. Les modèles de 12 à 20 milliards de paramètres deviennent plus délicats : ils nécessitent une quantification agressive, un contexte réduit ou un déchargement partiel vers la RAM.
Les machines équipées de 16 Go de mémoire graphique franchissent un cap. OpenAI présente gpt-oss-20b comme un modèle à poids ouverts destiné aux usages locaux et spécialisés. Sa version distribuée par Ollama pèse environ 14 Go et peut fonctionner sur un système disposant de 16 Go de mémoire. Notre guide de téléchargement de gpt-oss explique comment l’installer.
À 24 Go de VRAM, les modèles de 26 à 31 milliards de paramètres deviennent enfin raisonnables. C’est aussi le territoire de Qwen3-Coder 30B et des générateurs d’images les plus lourds. Pour les modèles dépassant 60 ou 70 milliards de paramètres, il faut souvent plusieurs GPU, une station dotée d’une énorme mémoire unifiée ou accepter une exécution sur CPU beaucoup plus lente.
L’image réclame un GPU, la vidéo réclame votre patience
Les modèles de langage peuvent répartir leurs calculs entre la carte graphique et le processeur. La génération d’images tolère beaucoup moins bien l’absence de GPU. Stable Diffusion 1.5 reste utilisable autour de 4 Go de VRAM, tandis que SDXL devient bien plus confortable à partir de 8 Go. Stable Diffusion 3.5 Medium et FLUX.1 demandent davantage de marge, surtout si plusieurs encodeurs doivent rester chargés.
La vidéo locale se situe encore une marche plus haut. Le dépôt officiel de Wan 2.1 annonce 8,19 Go de VRAM pour son modèle texte-vers-vidéo de 1,3 milliard de paramètres. Même sur une RTX 4090, une séquence 480p de cinq secondes demande environ quatre minutes sans optimisation. Une carte peut donc être compatible sans offrir une expérience instantanée.
LTX-Video propose également des versions allégées et quantifiées. Son application de bureau réserve cependant l’exécution locale aux GPU NVIDIA dotés d’au moins 16 Go de VRAM, selon les prérequis publiés par Lightricks. En dessous, le cloud n’est pas forcément un aveu de faiblesse. C’est parfois simplement le moyen d’éviter de monopoliser son ordinateur pendant l’après-midi.
Whisper reste le plus accueillant de la bande
La transcription audio demande beaucoup moins de mémoire que l’image ou la vidéo. Le dépôt officiel de Whisper indique environ 2 Go de VRAM pour le modèle Small, 5 Go pour Medium, 6 Go pour Turbo et 10 Go pour Large. Les petites versions fonctionnent également sur CPU, avec une vitesse qui dépend fortement du processeur et de la durée des fichiers.
Whisper Small constitue un bon point de départ pour des notes vocales ou des interviews propres. Medium améliore généralement la transcription du français, tandis que Turbo privilégie la vitesse. Large vise la précision maximale, mais ses besoins se rapprochent de ceux d’un LLM de taille moyenne. Pour de longs enregistrements, faster-whisper et ses optimisations peuvent encore réduire le temps de traitement.
Sur Mac, les chiffres jouent selon d’autres règles
Les Mac Apple Silicon ne possèdent pas une VRAM dédiée séparée de la RAM. Le processeur, le GPU et le système partagent une mémoire unifiée. Un Mac équipé de 32 Go peut donc allouer une grande partie de cette capacité à un modèle, ce qui lui permet parfois de charger des poids trop volumineux pour une carte graphique PC de 16 Go.
Il ne faut pas compter les 32 Go comme entièrement disponibles. macOS, le navigateur et les applications utilisent déjà plusieurs gigaoctets. Le calculateur conserve une marge de 4 Go pour éviter d’annoncer qu’un modèle tient au chausse-pied alors que le système doit encore respirer. LM Studio prend en charge les puces Apple Silicon et les modèles MLX, mais recommande lui aussi 16 Go de mémoire ou davantage.
Cette architecture rend les Mac très intéressants pour les LLM. Elle ne garantit pas la même compatibilité avec tous les générateurs d’images ou de vidéos, souvent optimisés en priorité pour CUDA. Le volume de mémoire ouvre la porte, mais le logiciel doit encore savoir où se trouve la poignée.
Le CPU seul fonctionne surtout sur le papier
Un modèle quantifié peut tourner sans carte graphique si la RAM est suffisante. Cette solution convient à de petits assistants utilisés occasionnellement, à des tests ou à la transcription d’un fichier que l’on peut laisser travailler en arrière-plan. Elle devient frustrante pour de longues conversations, du code interactif ou des documents volumineux.
La génération d’images sur CPU reste techniquement possible avec certains outils, mais la lenteur retire l’essentiel de son intérêt. Pour la vidéo, mieux vaut considérer l’absence de GPU compatible comme un signal d’arrêt. Le calculateur classe donc séparément « compatible » et « possible, mais lent ». Faire apparaître une fenêtre sans message d’erreur n’est pas la même chose qu’obtenir un outil exploitable.
Les nouveaux PC à mémoire unifiée brouillent toutefois cette frontière. Certaines machines AMD permettent d’allouer une grande quantité de mémoire à l’IA locale. Notre article sur ce mini PC AMD capable d’exécuter de gros modèles montre le potentiel de cette approche, mais aussi ses écarts de performance face aux cartes NVIDIA haut de gamme.
Ollama, LM Studio ou ComfyUI : trois portes différentes
LM Studio est le point d’entrée le plus simple pour découvrir les modèles de langage. Son interface permet de rechercher une version quantifiée, de la télécharger et de discuter sans apprendre les commandes du terminal. Il fonctionne sous Windows, Linux et sur Mac Apple Silicon.
Ollama convient mieux à ceux qui veulent lancer un modèle avec une commande, exposer une API locale ou connecter une autre application. Il sert notamment de moteur à des assistants comme Orla, présenté dans notre article sur cette IA privée dans le terminal. Sa bibliothèque affiche directement les tailles des variantes disponibles, ce qui évite de télécharger 20 Go pour découvrir ensuite que la machine n’en voulait que huit.
ComfyUI cible l’image et la vidéo. Son système de nœuds paraît moins accueillant, mais il permet de contrôler le modèle, les encodeurs, la résolution, le nombre d’étapes et les techniques de déchargement en mémoire. Cette souplesse devient précieuse lorsque la configuration se situe juste à la limite.
Le contexte peut manger la mémoire restante
Un modèle annoncé avec une fenêtre de 128 000 ou 256 000 tokens ne consomme pas la même quantité de mémoire avec une conversation de deux paragraphes et avec un dépôt de code entier. Le cache KV grossit avec le contexte. Ollama fixe d’ailleurs des valeurs par défaut différentes selon la VRAM : 4 096 tokens sous 24 Go, 32 000 entre 24 et 48 Go, puis 256 000 à partir de 48 Go, selon sa documentation sur la longueur de contexte.
Les résultats du calculateur supposent donc un contexte raisonnable. Si vous voulez analyser des centaines de pages, utiliser un agent de code sur un gros projet ou conserver un historique interminable, choisissez un modèle plus petit que la limite théorique de votre matériel. La mémoire économisée servira au contexte au lieu de provoquer un déchargement permanent vers la RAM.
FAQ sur les IA locales et la configuration du PC
Comment connaître la VRAM de ma carte graphique ?
Sous Windows, ouvrez le Gestionnaire des tâches, puis Performances et GPU. La mémoire GPU dédiée correspond à la VRAM. Sous Linux, les outils du pilote ou la commande nvidia-smi peuvent l’afficher. Sur Apple Silicon, utilisez la quantité totale de mémoire unifiée du Mac.
16 Go de RAM suffisent-ils pour une IA locale ?
Oui pour de petits modèles de langage quantifiés, Whisper et plusieurs assistants de 3 à 8 milliards de paramètres. Pour un modèle d’environ 20 milliards de paramètres, 24 ou 32 Go offrent davantage de marge, surtout si une partie des poids doit être déchargée depuis le GPU.
Quelle carte graphique faut-il pour commencer ?
Une carte NVIDIA de 8 Go ouvre déjà l’accès aux LLM de 7 ou 8 milliards de paramètres et à SDXL. Douze à seize gigaoctets élargissent nettement le choix. Pour de gros modèles de code ou la vidéo locale avancée, 24 Go restent beaucoup plus confortables.
Une IA locale est-elle totalement privée ?
Le modèle peut fonctionner sans envoyer les prompts vers un service distant, mais l’application utilisée peut proposer des fonctions en ligne, une recherche web ou une télémétrie. Vérifiez ses réglages et téléchargez les modèles depuis une source officielle. Une interface locale mal configurée et exposée sur Internet peut également devenir une faille.
Pourquoi le modèle est-il lent alors qu’il tient dans la mémoire ?
La quantité de mémoire détermine surtout si le modèle peut être chargé. La vitesse dépend aussi de la bande passante, des unités de calcul, des pilotes, du runner, de la quantification, du contexte et du nombre de couches réellement placées sur le GPU.
Sources officielles
- LM Studio : configuration requise
- Ollama : prise en charge matérielle des GPU
- Ollama : contexte et consommation de mémoire
- Ollama : tailles des modèles Gemma 4
- Ollama : famille Qwen3
- OpenAI : fiche officielle de gpt-oss-20b
- OpenAI : besoins en VRAM des modèles Whisper
- Wan AI : dépôt officiel de Wan 2.1
- Lightricks : prérequis de LTX Desktop
- Partager l'article :
