Aller au contenu
Run LLM Locally

GPU · AMD

RX 7900 XT pour LLM locaux : quels modèles tournent ?

Avec 20 Go de VRAM et 800 Go/s de bande passante, la RX 7900 XT fait tourner des modèles jusqu'à environ Gemma 3 27B IT entièrement sur le GPU.

  • VRAM20 Go GDDR6
  • Bande passante800 Go/s
  • Puissance315 W
  • ArchitectureRDNA 3

Caractéristiques

VRAM
20 Go
Type de mémoire
GDDR6
Bus mémoire
320-bit
Bande passante
800 Go/s
Puissance
315 W
Backends
ROCm, Vulkan
Interface
PCIe 4.0 x16
Sortie
décembre 2022
Segment
Grand public
Calcul FP16
Non disponible

Spécification officielleDonnées mises à jour il y a 24 joursSource: AMD specifications

Ce que fait tourner la RX 7900 XT

Modèles populaires sur RX 7900 XT + 64 Go de RAM · contexte 8K
gpt-oss-20bMXFP4 · 8K~13 Go · 138–152 tok/s mesuréExcellent
Mistral Nemo 12B InstructQ8_0 · 8K~14,9 Go · 36–51 tok/s estimationExcellent
Gemma 3 12B ITQ8_0 · 8K~14,2 Go · 36–53 tok/s estimationExcellent
Gemma 2 9B ITQ8_0 · 8K~12,8 Go · 43–62 tok/s estimationExcellent
Qwen3 8BQ8_0 · 8K~10,6 Go · 50–73 tok/s estimationExcellent
Llama 3.1 8B InstructQ8_0 · 8K~10,2 Go · 52–75 tok/s estimationExcellent
DeepSeek R1 Distill Llama 8BQ8_0 · 8K~10,2 Go · 52–75 tok/s estimationExcellent
Qwen2.5 7B InstructQ8_0 · 8K~9,3 Go · 57–82 tok/s estimationExcellent
Mistral 7B Instruct v0.3Q8_0 · 8K~9,2 Go · 56–82 tok/s estimationExcellent
Gemma 3 4B ITQ8_0 · 8K~5,5 Go · 91–142 tok/s estimationExcellent
Qwen3 4BQ8_0 · 8K~6,2 Go · 82–127 tok/s estimationExcellent
Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 88–135 tok/s estimationExcellent
Llama 3.2 3B InstructQ8_0 · 8K~5,2 Go · 103–160 tok/s estimationExcellent
Qwen3 1.7BQ8_0 · 8K~3,7 Go · 146–240 tok/s estimationExcellent
Llama 3.2 1B InstructQ8_0 · 8K~2,6 Go · 240–390 tok/s estimationExcellent
Qwen3 0.6BQ8_0 · 8K~2,6 Go · 210–386 tok/s estimationExcellent
Qwen3 32BQ3_K_M · 8K~18,6 Go · 27–40 tok/s estimationCompatible
DeepSeek R1 Distill Qwen 32BQ3_K_M · 8K~18,6 Go · 27–40 tok/s estimationCompatible
Qwen2.5 32B InstructQ3_K_M · 8K~18,6 Go · 27–40 tok/s estimationCompatible
Qwen2.5 Coder 32B InstructQ3_K_M · 8K~18,6 Go · 27–40 tok/s estimationCompatible
QwQ 32BQ3_K_M · 8K~18,6 Go · 27–40 tok/s estimationCompatible
Qwen3 30B-A3BIQ4_XS · 8K~17,7 Go · 78–143 tok/s estimationCompatible
Qwen3 Coder 30B-A3B InstructIQ4_XS · 8K~17,7 Go · 78–143 tok/s estimationCompatible
Gemma 3 27B ITQ4_K_M · 8K~18,4 Go · 28–40 tok/s estimationCompatible
Gemma 2 27B ITIQ4_XS · 8K~17,9 Go · 31–44 tok/s estimationCompatible
Mistral Small 3.2 24B InstructQ5_K_M · 8K~18,6 Go · 29–41 tok/s estimationCompatible
Qwen3 14BQ8_0 · 8K~17,6 Go · 30–43 tok/s estimationCompatible
DeepSeek R1 Distill Qwen 14BQ8_0 · 8K~17,8 Go · 29–42 tok/s estimationCompatible
Qwen2.5 14B InstructQ8_0 · 8K~17,8 Go · 29–42 tok/s estimationCompatible
Phi-4 14BQ8_0 · 8K~17,7 Go · 30–43 tok/s estimationCompatible
Mixtral 8x7B InstructQ3_K_M · 8K~21,6 Go · 19–36 tok/s estimationOffload CPU/GPU
gpt-oss-120bMXFP4 · 8K~63,3 Go · 9–18 tok/s estimationPossible mais lent
Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 3–6 tok/s estimationPossible mais lent
Qwen2.5 72B InstructQ3_K_M · 8K~38,3 Go · 1–2 tok/s estimationPossible mais lent
Llama 3.3 70B InstructQ3_K_M · 8K~37 Go · 1,1–2 tok/s estimationPossible mais lent
DeepSeek R1 Distill Llama 70BQ3_K_M · 8K~37 Go · 1,1–2 tok/s estimationPossible mais lent
DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de donnéesIncompatible
Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de donnéesIncompatible

Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally

Les limites en clair

20 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ Gemma 3 27B IT en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.

Où acheter une RX 7900 XT

Les prix et les liens suivent le marché choisi.

Radeon RX 7900 XT

20 Go GDDR6 · 800 Go/s · 315 W

RX 7900 XT 20 Go · 64 Go RAM → Gemma 3 27B IT

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

Quels LLM la RX 7900 XT peut-elle faire tourner ?
Entièrement sur le GPU : Qwen3 32B (Q3_K_M), DeepSeek R1 Distill Qwen 32B (Q3_K_M), Qwen2.5 32B Instruct (Q3_K_M), Qwen2.5 Coder 32B Instruct (Q3_K_M), QwQ 32B (Q3_K_M), Qwen3 30B-A3B (IQ4_XS), Qwen3 Coder 30B-A3B Instruct (IQ4_XS), Gemma 3 27B IT (Q4_K_M). Les modèles plus gros demandent un offload CPU/GPU.
La RX 7900 XT peut-elle faire tourner un modèle 70B ?
Déconseillé : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la RX 7900 XT dispose de 20 Go.
Comment la vitesse est-elle estimée ?
La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (800 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.