DeepSeek R1 Distill 14B
Distillation 14B de DeepSeek R1 : très bon rapport raisonnement/taille pour les maths, la logique et le code, sur GPU 12-16 Go.
Caractéristiques principales
Variantes disponibles
| Quantization | Taille | RAM requise | VRAM requise | Vitesse | HuggingFace |
|---|---|---|---|---|---|
| Q4_K_M | 9 Go | 12 Go | 10 Go | ~32 tok/s | HuggingFace → |
Installation
Ollama
La méthode la plus simple pour lancer DeepSeek R1 Distill 14B en local.
ollama run deepseek-r1:14b Pas encore installé ? Voir le guide Ollama
LM Studio
Interface graphique pour exécuter DeepSeek R1 Distill 14B sans ligne de commande.
- Télécharger et ouvrir LM Studio
- Aller dans l'onglet Discover
- Rechercher DeepSeek R1 Distill 14B
- Sélectionner la variante souhaitée (Q4_K_M recommandé) et télécharger
- Charger le modèle et démarrer un chat
llama.cpp
Pour les utilisateurs avancés souhaitant un contrôle total sur l'inférence.
# Télécharger le modèle GGUF (exemple Q4_K_M)
huggingface-cli download \
deepseek-ai/DeepSeek-R1-Distill-14B \
--include "*.Q4_K_M.gguf" \
--local-dir ./models/deepseek-r1-14b Fichiers GGUF disponibles sur HuggingFace
Compatible avec votre machine ?
Scannez votre configuration matérielle pour savoir si DeepSeek R1 Distill 14B peut tourner sur votre ordinateur - RAM, VRAM, et vitesse estimée.