L'IA générative,
sans compromis sur vos données

Un LLM (Large Language Model) est un modèle d'intelligence artificielle entraîné sur de très grandes quantités de texte pour comprendre et générer du langage naturel. ChatGPT, Claude, Llama et Mistral sont tous des LLMs. Ils fonctionnent en prédisant statistiquement la suite la plus probable d'un texte, ce qui leur permet de répondre à des questions, rédiger des textes, traduire, résumer des documents ou générer du code.

Pour débuter, nous recommandons Qwen3 4B (si vous avez moins de 8 Go de RAM) ou Qwen3 8B / Gemma 3 12B (8-16 Go de RAM). Ces modèles sont accessibles via une simple commande Ollama (`ollama run qwen3:8b`), offrent un excellent équilibre entre qualité et performance, et fonctionnent très bien en français. Pour le code, Qwen3-Coder ou Devstral Small (Mistral) sont d'excellentes options.

Non, un GPU n'est pas indispensable. Les LLMs peuvent fonctionner sur CPU uniquement, mais beaucoup plus lentement (2-5 tokens/seconde contre 30-100 tokens/seconde avec GPU). Pour une expérience fluide, un GPU NVIDIA avec 8 Go de VRAM minimum est recommandé pour les modèles 7-8B. Sur Mac Apple Silicon, la mémoire unifiée (partagée CPU/GPU) offre d'excellentes performances même sans GPU dédié.

Q4 et Q8 sont des niveaux de quantisation qui réduisent la taille des modèles en compressant les poids du réseau. Q4_K_M utilise environ 4 bits par paramètre (fichier compact, légère perte de qualité) tandis que Q8_0 utilise 8 bits (qualité presque identique au modèle original, fichier 2× plus grand). Pour la plupart des usages, Q4_K_M est suffisant. Q8_0 est préférable pour des tâches de raisonnement complexes ou de la génération de code si votre VRAM le permet.

Sur macOS : téléchargez le DMG sur ollama.com ou via `brew install ollama`. Sur Windows : téléchargez l'installeur .exe sur ollama.com. Sur Linux : exécutez `curl -fsSL https://ollama.com/install.sh | sh`. Ensuite, téléchargez votre premier modèle avec `ollama pull qwen3:8b` et lancez une conversation avec `ollama run qwen3:8b`. C'est tout - le service tourne en arrière-plan sur le port 11434.

Deux options : faire tourner un modèle open source en local (vos données ne quittent jamais votre machine), ou utiliser un cloud souverain comme LLMs.fr Cloud, qui sert les grands modèles open-weight (Mistral, Llama, Qwen, DeepSeek) depuis des GPU hébergés en France. Contrairement à la plupart des API cloud, hébergées hors de l'Union européenne, les données ne quittent pas l'UE, ne sont pas soumises à des législations extraterritoriales (comme le Cloud Act) et ne servent jamais à entraîner des modèles. Un DPA conforme à l'article 28 du RGPD est fourni.

Oui. api.llms.fr est une API compatible OpenAI : tout agent ou outil qui parle ce format (OpenCode, OpenClaw, Hermes Agent, Aider, Continue, LangChain, n8n…) peut être pointé vers des modèles hébergés en France en changeant simplement l'URL de base et la clé API. Claude Code est supporté via la passerelle compatible Anthropic. Votre code et vos documents ne quittent plus l'Union européenne.

Le budget minimum pour un bon setup LLM local en 2026 : 300-400€ pour une RTX 4060 8 Go (modèles 7B), ou 600€ pour une RTX 4060 Ti 16 Go (modèles jusqu'à 13B). Le sweet spot est souvent la RTX 4060 Ti 16 Go à ~600€ ou une RTX 3090 24 Go d'occasion à 600-700€. Si vous possédez déjà un Mac Apple Silicon M2/M3/M4 avec 16+ Go de RAM, il n'y a rien à acheter : Ollama tourne parfaitement dessus.