L’autre jour, un ami m’a lancé une phrase qu’on entend souvent : « Tu as déjà une carte graphique, fais tourner l’IA chez toi au lieu de payer un abonnement. » L’idée est séduisante. Elle peut aussi pousser à acheter une carte hors de prix avant même d’avoir vérifié si l’usage nous convient.
Je préfère prendre le problème dans l’autre sens : tester une IA locale sur le PC que l’on possède déjà, mesurer ce qu’elle sait réellement faire, puis seulement décider si le matériel limite un besoin utile.
La réponse courte
Pour tester une IA locale sur son PC en 2026 sans acheter de matériel :
- relevez la mémoire vive, le modèle de processeur, la carte graphique et sa mémoire vidéo ;
- téléchargez Ollama ou LM Studio depuis le site officiel ;
- commencez par un petit modèle de 3 à 4 milliards de paramètres si la machine est modeste, ou un modèle de 7 à 8 milliards si elle dispose de davantage de mémoire ;
- testez trois tâches que vous faites vraiment ;
- observez la vitesse, la mémoire occupée, la qualité des réponses et la consommation ;
- n’achetez rien tant que ce test ne révèle pas une limite précise et répétable.
Une IA locale peut être utile sur un ordinateur ordinaire. Elle ne devient pas automatiquement privée, gratuite, rapide ou meilleure qu’un service en ligne simplement parce que le modèle se trouve sur votre disque.
Ce que signifie vraiment « IA locale »
Dans ce guide, une IA locale est un modèle exécuté sur votre propre machine. L’inférence — le calcul qui produit la réponse — utilise votre processeur, votre carte graphique ou les deux. Une fois le logiciel, son moteur et le modèle téléchargés, certaines configurations peuvent fonctionner sans connexion.
C’est intéressant pour relire un texte, résumer des notes, expliquer du code, préparer un brouillon ou travailler hors ligne. Cela rejoint la logique de l’auto-hébergement : garder davantage de contrôle implique aussi d’assumer davantage de vérifications.
Le mot « local » ne garantit toutefois pas que chaque fonction d’une application reste hors ligne. La recherche de modèles, leur téléchargement, les mises à jour, certains connecteurs et les modèles proposés dans le cloud peuvent établir des connexions. Avant de confier un document sensible à un outil, il faut vérifier le mode sélectionné et le comportement du logiciel utilisé.
Faire l’inventaire du PC avant de choisir un modèle
La mémoire vidéo compte beaucoup, mais elle n’est pas la seule caractéristique utile. Les performances dépendent aussi de la quantité de mémoire vive, de la bande passante mémoire, du processeur, de l’accélération prise en charge par le logiciel, de la quantification du modèle et de la longueur de contexte.
Je relève au minimum :
- le système et sa version ;
- le processeur ;
- la quantité de mémoire vive disponible ;
- le modèle exact de GPU et sa mémoire dédiée ;
- l’espace libre sur le SSD ;
- les pilotes installés.
Sous Windows, le Gestionnaire des tâches permet déjà de voir le processeur, la mémoire et le GPU. Le panneau du constructeur ou un outil de diagnostic complète l’information. Comme pour une clé USB de diagnostic PC, je note les références avant d’installer quoi que ce soit.
Des paliers indicatifs, pas une promesse de vitesse
Il est tentant de publier un tableau du type « telle carte fait tourner tel modèle à telle vitesse ». Ce serait trompeur : deux modèles portant le même nombre de paramètres peuvent occuper une quantité de mémoire différente, et augmenter le contexte peut ajouter une consommation importante.
| Machine disponible | Premier essai raisonnable | Attente réaliste |
|---|---|---|
| CPU seul ou GPU intégré | Petit modèle quantifié de 3 à 4B | Découvrir l’outil et tester des tâches courtes, avec de la patience |
| GPU avec environ 8 Go de mémoire | Modèle quantifié de 7 à 8B, contexte modéré | Usage interactif possible selon le GPU et l’accélération disponible |
| GPU avec 12 à 16 Go | 7 à 8B avec davantage de marge, ou modèle supérieur soigneusement choisi | Plus de confort, sans garantie sur les grands contextes |
| GPU avec 24 Go ou plus | Modèles quantifiés plus volumineux | Davantage de choix, mais toujours des compromis de contexte et de vitesse |
| Apple Silicon à mémoire unifiée | Modèle adapté à la mémoire réellement libre | Pool mémoire plus souple, partagé avec macOS et les autres applications |
La taille du fichier téléchargé n’est pas la mémoire totale nécessaire pendant l’exécution. Par exemple, la fiche Ollama de Qwen3 8B annonce actuellement un téléchargement d’environ 5,2 Go pour sa variante proposée par défaut. Il faut encore laisser de la place au contexte, au moteur et au système.
La documentation d’Ollama sur la longueur de contexte rappelle d’ailleurs qu’un contexte plus grand augmente la mémoire requise. C’est une raison de commencer modestement plutôt que de pousser tous les curseurs au maximum.
Ollama ou LM Studio pour commencer ?
Ollama convient bien si vous êtes à l’aise avec quelques commandes. Le projet documente la compatibilité des GPU NVIDIA, AMD et Apple sur sa page GPU support. La prise en charge dépend du modèle de carte, des pilotes et du système : le nom de la marque ne suffit pas.
LM Studio propose une interface graphique pour rechercher, télécharger et exécuter les modèles. Sa documentation sur le fonctionnement hors ligne précise que les conversations et le serveur local peuvent fonctionner sans Internet une fois les modèles récupérés, tandis que la recherche de modèles, les téléchargements et la vérification des mises à jour utilisent le réseau.
Dans les deux cas, je pars du site officiel. Les faux boutons et les installateurs republiés sont un risque inutile ; le guide BlackFury consacré au téléchargement sûr d’un utilitaire Windows détaille cette vérification.
Un test en trente minutes qui répond à une vraie question
Je ne commence pas par un benchmark trouvé en ligne. Je choisis trois tâches représentatives de mon usage :
- résumer un texte non sensible de deux ou trois pages ;
- réécrire un message fictif dans un ton plus clair ;
- expliquer un petit script ou produire une liste de vérifications.
Avec Ollama, un premier lancement peut ressembler à ceci :
ollama run qwen3:8bLa variante 8B n’est qu’un exemple. Si elle ne tient pas correctement en mémoire ou si le PC devient inutilisable, je redescends vers un modèle de 3 ou 4B. Je n’augmente pas la taille jusqu’au plantage pour pouvoir dire que « ça tourne ».
Pendant chaque essai, je note :
- le temps avant le début de la réponse ;
- la fluidité de génération ;
- la mémoire vive et vidéo utilisée ;
- la température et le bruit de la machine ;
- les erreurs factuelles ;
- le temps réellement gagné sur la tâche.
Une réponse rapide mais fausse n’est pas un bon résultat. Une réponse lente qui demande autant de corrections qu’un brouillon manuel non plus.
Vérifier où le modèle s’exécute
Ollama fournit la commande suivante pendant qu’un modèle est chargé :
ollama psElle indique notamment si le modèle est chargé sur le GPU, le CPU ou partagé entre les deux, ainsi que le contexte alloué. C’est plus utile que de supposer qu’une carte graphique travaille simplement parce qu’elle se trouve dans le PC.
Dans LM Studio, les informations de chargement et les réglages du modèle permettent la même vérification. Si le logiciel bascule largement sur le processeur, la lenteur peut venir d’un manque de mémoire vidéo, d’un modèle trop gros ou d’une accélération non prise en charge.
Local ne veut pas dire sans coût
Le modèle peut être téléchargeable sans abonnement, mais le test utilise du stockage, de la mémoire et de l’électricité. Un GPU fortement sollicité chauffe et consomme. Pour quelques demandes par semaine, un service en ligne peut rester économiquement plus logique que l’achat d’une carte dédiée.
À l’inverse, une personne qui traite régulièrement des données qu’elle ne souhaite pas envoyer à un service tiers, travaille hors connexion ou intègre un modèle à un outil local peut trouver un intérêt réel à cette autonomie.
Quand envisager une mise à niveau matérielle ?
Je n’achète du matériel que si quatre conditions sont réunies :
- le modèle apporte déjà quelque chose à une tâche fréquente ;
- la limite observée vient clairement de la mémoire ou de la vitesse du matériel ;
- un modèle plus grand améliore réellement le résultat sur mes propres essais ;
- le gain justifie le prix, la consommation et le bruit supplémentaires.
Davantage de mémoire vidéo ouvre l’accès à de plus gros modèles ou à un contexte plus long. Elle ne transforme pas toutes les réponses en travail fiable. Le modèle, sa quantification, la consigne et la qualité des données restent déterminants.
Mon avis après avoir retiré le marketing
L’IA locale est un outil intéressant, pas une nouvelle raison de remplacer un PC qui fonctionne. Un petit modèle peut déjà relire, résumer ou débloquer une idée. Un grand modèle local peut devenir très utile, mais il demande du matériel, du temps et une vraie raison de l’héberger.
Le meilleur premier achat reste donc celui que l’on ne fait pas : installez un outil depuis sa source officielle, choisissez un modèle raisonnable, testez vos tâches et regardez les mesures. Une soirée d’essais honnêtes vaut mieux qu’un tableau de performances repris sans contexte.
Sources consultées le 3 septembre 2026 : documentation officielle Ollama GPU, Ollama Context length, fiche Qwen3 8B pour Ollama et documentation LM Studio Offline operation.
