Article entièrement réécrit le 20 octobre 2026. Cette version est un guide sans affiliation : elle ne contient aucun lien d’affiliation et ne rapporte pas de mesures de performance. Les besoins en mémoire indiqués sont des ordres de grandeur.
Faire tourner un modèle de langage sur sa propre machine, plutôt que d’utiliser ChatGPT, Claude ou Gemini en ligne, attire de plus en plus de professionnels. La raison principale est la confidentialité : vos textes ne quittent pas votre ordinateur. Mais cela demande du matériel, quelques réglages, et une idée juste de ce que l’on gagne et de ce que l’on perd.
L’essentiel en 5 points
- IA locale : le modèle tourne sur votre ordinateur. Vos données restent chez vous, sans abonnement, et l’outil fonctionne même hors connexion.
- Le facteur limitant est la mémoire de la carte graphique (VRAM) ou, sur Mac récent, la mémoire unifiée : plus le modèle est gros, plus il en faut.
- Deux logiciels suffisent pour commencer : LM Studio (interface graphique) ou Ollama (ligne de commande et API). Les modèles ouverts se téléchargent sur Hugging Face.
- Sans machine assez puissante, on peut louer un PC ou un processeur graphique dans le cloud. Mais ce n’est plus de l’IA locale : vos données sont chez le prestataire.
- Les modèles ouverts conviennent très bien à la rédaction, à la reformulation ou au résumé, mais restent généralement en retrait des modèles commerciaux les plus avancés sur les tâches complexes.
Pourquoi
Ce qu’apporte une IA locale, et ses limites
Les avantages
- Confidentialité : aucun texte n’est envoyé à un service tiers
- Pas d’abonnement ni de coût à l’usage
- Fonctionne hors connexion une fois le modèle téléchargé
- Choix du modèle et de ses réglages
Les limites
- Un matériel suffisant, surtout en mémoire graphique
- Des modèles généralement moins performants que les services en ligne les plus avancés
- Une installation et des mises à jour à gérer soi-même
- La licence de chaque modèle à vérifier pour un usage commercial
La distinction essentielle
Local ou cloud : où vont vos données ?
En local
Le modèle tourne sur votre ordinateur. Les textes que vous lui confiez restent sur votre machine.
C’est la seule option qui garantit que vos données ne sortent pas de chez vous.
Dans le cloud
Vous louez un PC ou un processeur graphique distant (Shadow, RunPod, Google Colab…). Vous installez les mêmes logiciels, mais sur la machine du prestataire.
Vos données sont donc chez lui : vérifiez son contrat, la localisation de ses serveurs et ses garanties de sécurité.
Le matériel
De quelle mémoire avez-vous besoin ?
La taille d’un modèle s’exprime en milliards de paramètres (7B, 13B, 70B…). Grâce à la quantification, qui réduit la précision des calculs, un modèle peut fonctionner avec beaucoup moins de mémoire, au prix d’une légère perte de qualité. Avec une quantification courante sur 4 bits, les ordres de grandeur sont les suivants :
| Taille du modèle | Mémoire graphique indicative | Pour qui |
|---|---|---|
| 3 à 4B | 3 à 4 Go | Ordinateur portable récent ; tâches simples |
| 7 à 8B | 5 à 6 Go | Carte graphique grand public ; rédaction, résumé, reformulation |
| 12 à 14B | 8 à 10 Go | Carte graphique de milieu de gamme ; qualité de réponse supérieure |
| 30 à 34B | 18 à 22 Go | Carte haut de gamme ou Mac avec beaucoup de mémoire unifiée |
| 70B | 40 Go et plus | Station de travail ou plusieurs cartes graphiques |
Ordres de grandeur pour un usage conversationnel courant : les besoins augmentent avec la longueur du texte traité et varient selon la quantification choisie. Sans carte graphique, un modèle peut tourner sur le seul processeur, mais beaucoup plus lentement.
Les logiciels
Les outils pour commencer
LM Studio
Une interface graphique pour rechercher, télécharger et utiliser des modèles, sans ligne de commande. Le plus simple pour débuter. Windows, Mac et Linux.
Ollama
Un outil en ligne de commande qui télécharge et lance les modèles en une instruction, et propose une API locale pour les brancher sur d’autres logiciels.
Hugging Face
La principale bibliothèque de modèles ouverts : Llama, Mistral, Gemma, Qwen… Chaque fiche indique la taille, la licence et les versions quantifiées disponibles.
Pour les images
Des interfaces comme ComfyUI permettent aussi de générer des images en local. Elles demandent davantage de mémoire graphique que la plupart des modèles de texte.
Tutoriel
Installer un premier modèle avec LM Studio
- Installer LM StudioTéléchargez-le sur le site officiel et installez-le comme un logiciel classique.
- Choisir un modèle adapté à votre mémoireDans l’onglet de recherche, choisissez un modèle de 7 à 8B dans une version quantifiée (format GGUF, 4 bits) : c’est le bon point de départ pour la plupart des machines.
- Le téléchargerComptez plusieurs gigaoctets par modèle : vérifiez l’espace disque disponible.
- Le charger et activer la carte graphiqueChargez le modèle et réglez le déchargement sur le processeur graphique (« GPU offload ») au maximum supporté : c’est ce qui accélère le plus les réponses.
- Essayer sur une tâche réelleComparez la réponse à celle d’un assistant en ligne sur un de vos textes non confidentiels, pour juger si la qualité vous suffit.
Sans machine puissante
Les solutions dans le cloud
| Solution | Principe | À savoir |
|---|---|---|
| PC dans le cloud ex. Shadow | Un ordinateur Windows complet à distance, avec carte graphique, par abonnement mensuel | Simple à utiliser ; coût récurrent ; données chez le prestataire |
| Location de GPU ex. RunPod | Des processeurs graphiques puissants facturés à l’heure | Adapté aux gros modèles ; plus technique (souvent sous Linux) |
| Notebooks en ligne ex. Google Colab | Un environnement de code avec GPU, gratuit avec limites ou payant | Idéal pour expérimenter ; sessions limitées dans le temps |
| Achat d’une machine | Un ordinateur avec une carte graphique bien dotée en mémoire | Investissement initial ; seule option réellement locale |
Les offres, configurations et prix des services cloud changent souvent : consultez leurs sites officiels avant de choisir.
Confidentialité
IA locale et RGPD
Une IA qui tourne réellement en local est la façon la plus sûre de traiter des documents confidentiels avec un modèle de langage, puisque rien n’est transmis à un tiers. Dès que la machine est dans le cloud, le prestataire devient un sous-traitant au sens du RGPD si vous y traitez des données personnelles : il faut alors un contrat adapté et vérifier où sont hébergées les données.
Vérifiez la licence du modèle. « Ouvert » ne veut pas dire libre de tout usage : certaines licences encadrent l’usage commercial ou imposent des conditions. Elle est indiquée sur la fiche du modèle.
Questions fréquentes
Vos questions sur l’IA locale
Peut-on faire tourner une IA locale gratuitement ?
Oui, si votre ordinateur est suffisant : LM Studio, Ollama et la plupart des modèles ouverts sont gratuits. Les solutions dans le cloud, elles, sont payantes au-delà d’un usage limité.
Une IA locale est-elle aussi bonne que ChatGPT ?
Pour la rédaction, la reformulation ou le résumé, un bon modèle de 7 à 14B donne souvent des résultats satisfaisants. Sur le raisonnement complexe ou les tâches longues, les modèles commerciaux les plus avancés restent généralement devant.
Un Mac convient-il ?
Oui. Les Mac récents à puce Apple utilisent une mémoire unifiée partagée entre processeur et carte graphique, ce qui permet de faire tourner des modèles de taille moyenne dans de bonnes conditions si la machine a assez de mémoire.
Un PC dans le cloud protège-t-il mes données comme une IA locale ?
Non. Vos données sont alors stockées et traitées chez le prestataire. C’est un choix possible, mais il faut l’évaluer comme n’importe quel service en ligne.
Ressources
- LM Studio, site officiel
- Ollama, site officiel
- Hugging Face, bibliothèque de modèles
- Shadow, site officiel
Decryptia ne perçoit aucune commission sur les services cités. Pour apprendre à formuler vos demandes, quel que soit le modèle : la méthode PREP et la méthode CARE.
Se former à l’IA, gratuitement
Méthodes de prompt, cours complets et bons réflexes pour utiliser l’IA de façon fiable.
