Aller au contenu
Run LLM Locally

DeepSeek R1 Distill Qwen 14B sur une RX 7900 XT

Avec ses 20 Go de VRAM, la RX 7900 XT fait tourner DeepSeek R1 Distill Qwen 14B en Q4_K_M entièrement sur le GPU avec un contexte de 8K (environ 11,3 Go nécessaires). En Q8_0, il tient entièrement.

PartagerFacebookXWhatsAppLinkedInE-mail

DeepSeek R1 Distill Qwen 14B

Q4_K_M · 8K contexte

Excellent

Le modèle demande environ 11,3 Go et tient dans les 19,4 Go disponibles, avec 8,1 Go de marge.

Votre matériel
RX 7900 XT 20 Go · 64 Go RAM
Mémoire estimée
~11,3 Go estimation
VRAM (mémoire utilisable)
19,4 Go
GPU seul
Oui
Offload CPU/GPU
Non nécessaire
Vitesse de génération
45–67 tok/s estimation
Plus grand contexte en mémoire rapide
49K tokens
Confiance : faible

Basé sur : bande passante mémoire (800 Go/s) et taille du modèle

Répartition de la mémoire

~11,3 Go (10,7 Go–11,9 Go) nécessaires · estimation

Tient entièrement en VRAM · 8,1 Go libres

  • Poids du modèle8,4 Go
  • Cache KV1,5 Go
  • Surcoût runtime0,9 Go
  • Marge de sécurité0,5 Go
Hypothèses: contexte 8K tokens · cache KV f16 · llama.cpp (ROCm) · flash attention activée · poids = taille réelle du fichier

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally, Hugging Face config.json + model card

Ce qui rend cette estimation moins fiable

  • pas encore de benchmark pour ce matériel et ce modèle

Les autres quantifications sur la RX 7900 XT

DeepSeek R1 Distill Qwen 14B sur RX 7900 XT + 64 Go de RAM · contexte 8K
DeepSeek R1 Distill Qwen 14B Q8_08K~17,8 Go · 29–42 tok/s estimationCompatible
DeepSeek R1 Distill Qwen 14B Q6_K8K~14,3 Go · 36–53 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 14B Q5_K_M8K~12,8 Go · 40–59 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 14B Q4_K_M8K~11,3 Go · 45–67 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 14B IQ4_XS8K~10,4 Go · 49–73 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 14B Q3_K_M8K~9,7 Go · 52–79 tok/s estimationExcellent

Alternatives

Les GPU qui font tourner DeepSeek R1 Distill Qwen 14B Q4_K_M entièrement en VRAM

D'autres modèles adaptés à la RX 7900 XT

Où acheter une RX 7900 XT

Les prix et les liens suivent le marché choisi.

Radeon RX 7900 XT

20 Go GDDR6 · 800 Go/s · 315 W

ExcellentFait tourner DeepSeek R1 Distill Qwen 14B Q4_K_M entièrement en mémoire

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

La RX 7900 XT peut-elle faire tourner DeepSeek R1 Distill Qwen 14B ?
Le modèle demande environ 11,3 Go et tient dans les 19,4 Go disponibles, avec 8,1 Go de marge.
Quelle quantification choisir sur la RX 7900 XT ?
Q8_0 est la quantification la plus précise qui tient entièrement en VRAM avec un contexte de 8K. ~17,8 Go / 19,4 Go.
Quel est le plus grand contexte possible sur la RX 7900 XT ?
En Q4_K_M, environ 49K tokens tiennent entièrement en VRAM avec un cache KV en f16. Un cache KV en q8_0 double à peu près ce chiffre.
À quelle vitesse tourne DeepSeek R1 Distill Qwen 14B (RX 7900 XT) ?
Nous estimons 45–67 tok/s (estimation, confiance faible). Basé sur : bande passante mémoire (800 Go/s) et taille du modèle.