MODULE 38 / 72
🏠
IA en local : NAS, Ollama et modèles self-hosted
L'IA en local = faire tourner des LLMs sur votre propre hardware, sans envoyer vos données dans le cloud. C'est désormais accessible au grand public grâce à Ollama et aux modèles compacts haute performance.
Pourquoi du local : (1) Confidentialité totale — vos documents privés, emails, code, données client ne quittent jamais votre réseau. (2) Coût marginal faible (pas de facture au token, mais matériel et électricité) — pas de facture OpenAI/Anthropic à chaque token. (3) Disponibilité offline. (4) Personnalisation — fine-tuner un modèle sur vos données propriétaires.
Ollama : le runtime standard pour faire tourner des LLMs en local. Il gère le téléchargement des modèles, l'inférence GPU/CPU, et expose une API REST compatible avec l'API OpenAI (`/api/chat`, `/api/generate`). Installation en 2 minutes, modèle disponible en 1 commande : `ollama run llama3.2`.
Modèles locaux courants (2026) : Qwen3, Gemma 3, Mistral Small 3.x, gpt-oss-20b, Phi-4, Llama 3.x. Les 7-8B tournent avec ~16 GB de RAM (8 GB au minimum serré).
NAS (Network Attached Storage) : un boîtier avec des disques durs connecté à votre réseau local. Marques principales : Synology, QNAP, TrueNAS. Pour l'IA locale, le NAS sert de : stockage pour les documents RAG (contrats, emails, notes), hôte pour les serveurs MCP, runner d'agents IA 24/7 (il ne s'éteint pas comme votre ordi).
Stack IA locale typique : NAS (stockage + orchestration) + GPU dédié ou box mini-PC (inférence Ollama) + serveurs MCP (accès aux données locales) + agent framework (n8n, LangChain, ou custom). Les modèles vivent sur le NAS, l'inférence se fait sur le GPU.
La vraie limite : la qualité des modèles locaux reste inférieure aux modèles cloud (GPT-4, Claude Sonnet) pour les tâches complexes. Règle pratique : local pour les données sensibles et les tâches répétitives simples, cloud pour les raisonnements complexes et la créativité.
⚡ ANALOGIE — LE SERVEUR PERSONNEL VS LE DATA CENTER LOUÉ
IA cloud = louer une salle de réunion dans un hôtel à chaque fois que vous en avez besoin. Pratique, performant, mais quelqu'un d'autre gère les locaux — et entend vos conversations. IA locale = avoir votre propre salle de réunion chez vous. Moins grand, moins luxueux, mais 100% privé et disponible 24/7. NAS = le placard de rangement de votre bureau perso : tous vos dossiers en un endroit, accessibles par n'importe quelle machine du réseau. Ollama = le 'moteur' qui fait tourner le modèle, comme un moteur de recherche mais pour du texte. MCP = les couloirs qui relient la salle de réunion (LLM) à votre placard (NAS).
📐 SCHÉMA
Applications / Agents
n8n, Claude Desktop, scripts custom
LLM Runtime (Ollama)
Tourne sur GPU/CPU local
Serveurs MCP
Filesystem, BDD, emails, custom
NAS / Stockage local
Documents RAG, modèles, BDD
Réseau local (LAN)
Tout reste chez vous
💬 QUESTION INTERACTIVE
1/6
"Quel hardware minimum pour faire tourner un LLM local correct en 2026 ?"
🎯 PIÈGE / QUESTION D'ENTRETIEN
Quelle est la différence entre Ollama, LM Studio, et Jan — et lequel choisir ?