mxbai 0.335B params Restreint
MixedBread mxbai-embed-large-v1
embeddings
Embeddings haute qualité pour le RAG et la recherche sémantique, avec d'excellents scores sur les benchmarks MTEB. Léger et rapide en local.
Caractéristiques principales
Paramètres 0.335B params
RAM min (Q4) 2 Go
Contexte 1K tokens
Famille mxbai
Année 2024
Use cases embeddings
Variantes disponibles
| Quantization | Taille | RAM requise | VRAM requise | Vitesse | HuggingFace |
|---|---|---|---|---|---|
| F16 | 0.67 Go | 2 Go | 1 Go | - | HuggingFace → |
Installation
Ollama
La méthode la plus simple pour lancer MixedBread mxbai-embed-large-v1 en local.
ollama run mxbai-embed-large:latest Pas encore installé ? Voir le guide Ollama
LM Studio
Interface graphique pour exécuter MixedBread mxbai-embed-large-v1 sans ligne de commande.
- Télécharger et ouvrir LM Studio
- Aller dans l'onglet Discover
- Rechercher MixedBread mxbai-embed-large-v1
- Sélectionner la variante souhaitée (Q4_K_M recommandé) et télécharger
- Charger le modèle et démarrer un chat
llama.cpp
Pour les utilisateurs avancés souhaitant un contrôle total sur l'inférence.
# Télécharger le modèle GGUF (exemple Q4_K_M)
huggingface-cli download \
mixedbread-ai/MixedBread-mxbai-embed-large-v1 \
--include "*.Q4_K_M.gguf" \
--local-dir ./models/mxbai-embed-large Fichiers GGUF disponibles sur HuggingFace
Compatible avec votre machine ?
Scannez votre configuration matérielle pour savoir si MixedBread mxbai-embed-large-v1 peut tourner sur votre ordinateur - RAM, VRAM, et vitesse estimée.