deepseek 32B params Restreint
DeepSeek R1 Distill 32B
Raisonnement Code Chat
Distillation 32B de DeepSeek R1 : raisonnement de haut niveau approchant les grands modèles, pour GPU 24 Go et Mac à mémoire unifiée.
Caractéristiques principales
Paramètres 32B params
RAM min (Q4) 24 Go
Contexte 128K tokens
Famille deepseek
Année 2025
Use cases Raisonnement, Code, Chat
Variantes disponibles
| Quantization | Taille | RAM requise | VRAM requise | Vitesse | HuggingFace |
|---|---|---|---|---|---|
| Q4_K_M | 20 Go | 24 Go | 21 Go | ~20 tok/s | HuggingFace → |
Installation
Ollama
La méthode la plus simple pour lancer DeepSeek R1 Distill 32B en local.
ollama run deepseek-r1:32b Pas encore installé ? Voir le guide Ollama
LM Studio
Interface graphique pour exécuter DeepSeek R1 Distill 32B sans ligne de commande.
- Télécharger et ouvrir LM Studio
- Aller dans l'onglet Discover
- Rechercher DeepSeek R1 Distill 32B
- Sélectionner la variante souhaitée (Q4_K_M recommandé) et télécharger
- Charger le modèle et démarrer un chat
llama.cpp
Pour les utilisateurs avancés souhaitant un contrôle total sur l'inférence.
# Télécharger le modèle GGUF (exemple Q4_K_M)
huggingface-cli download \
deepseek-ai/DeepSeek-R1-Distill-32B \
--include "*.Q4_K_M.gguf" \
--local-dir ./models/deepseek-r1-32b Fichiers GGUF disponibles sur HuggingFace
Compatible avec votre machine ?
Scannez votre configuration matérielle pour savoir si DeepSeek R1 Distill 32B peut tourner sur votre ordinateur - RAM, VRAM, et vitesse estimée.