Aller au contenu
Run LLM Locally

GPU · AMD

Radeon PRO W7900 pour LLM locaux : quels modèles tournent ?

Avec 48 Go de VRAM et 864 Go/s de bande passante, la Radeon PRO W7900 fait tourner des modèles jusqu'à environ Llama 3.3 70B Instruct entièrement sur le GPU.

  • VRAM48 Go GDDR6 ECC
  • Bande passante864 Go/s
  • Puissance295 W
  • ArchitectureRDNA 3

Caractéristiques

VRAM
48 Go
Type de mémoire
GDDR6 ECC
Bus mémoire
384-bit
Bande passante
864 Go/s
Puissance
295 W
Backends
ROCm, Vulkan
Interface
PCIe 4.0 x16
Sortie
avril 2023
Segment
Station de travail
Calcul FP16
Non disponible

Spécification officielleDonnées mises à jour il y a 24 joursSource: AMD specifications

Ce que fait tourner la Radeon PRO W7900

Modèles populaires sur Radeon PRO W7900 + 64 Go de RAM · contexte 8K
Mixtral 8x7B InstructQ6_K · 8K~39,2 Go · 34–52 tok/s estimationExcellent
Qwen3 32BQ8_0 · 8K~37,1 Go · 16–21 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 32BQ8_0 · 8K~37,1 Go · 16–21 tok/s estimationExcellent
Qwen2.5 32B InstructQ8_0 · 8K~37,1 Go · 16–21 tok/s estimationExcellent
Qwen2.5 Coder 32B InstructQ8_0 · 8K~37,1 Go · 16–21 tok/s estimationExcellent
QwQ 32BQ8_0 · 8K~37,1 Go · 16–21 tok/s estimationExcellent
Qwen3 30B-A3BQ8_0 · 8K~33,4 Go · 62–106 tok/s estimationExcellent
Qwen3 Coder 30B-A3B InstructQ8_0 · 8K~33,4 Go · 62–106 tok/s estimationExcellent
Gemma 3 27B ITQ8_0 · 8K~30,3 Go · 19–26 tok/s estimationExcellent
Gemma 2 27B ITQ8_0 · 8K~31,7 Go · 19–26 tok/s estimationExcellent
Mistral Small 3.2 24B InstructQ8_0 · 8K~26,7 Go · 22–30 tok/s estimationExcellent
gpt-oss-20bMXFP4 · 8K~13 Go · 131–181 tok/s estimationExcellent
Qwen3 14BQ8_0 · 8K~17,6 Go · 33–46 tok/s estimationExcellent
DeepSeek R1 Distill Qwen 14BQ8_0 · 8K~17,8 Go · 31–45 tok/s estimationExcellent
Qwen2.5 14B InstructQ8_0 · 8K~17,8 Go · 31–45 tok/s estimationExcellent
Phi-4 14BQ8_0 · 8K~17,7 Go · 32–46 tok/s estimationExcellent
Mistral Nemo 12B InstructQ8_0 · 8K~14,9 Go · 38–54 tok/s estimationExcellent
Gemma 3 12B ITQ8_0 · 8K~14,2 Go · 39–56 tok/s estimationExcellent
Gemma 2 9B ITQ8_0 · 8K~12,8 Go · 46–67 tok/s estimationExcellent
Qwen3 8BQ8_0 · 8K~10,6 Go · 53–78 tok/s estimationExcellent
Llama 3.1 8B InstructQ8_0 · 8K~10,2 Go · 55–81 tok/s estimationExcellent
DeepSeek R1 Distill Llama 8BQ8_0 · 8K~10,2 Go · 55–81 tok/s estimationExcellent
Qwen2.5 7B InstructQ8_0 · 8K~9,3 Go · 61–88 tok/s estimationExcellent
Mistral 7B Instruct v0.3Q8_0 · 8K~9,2 Go · 60–88 tok/s estimationExcellent
Gemma 3 4B ITQ8_0 · 8K~5,5 Go · 96–151 tok/s estimationExcellent
Qwen3 4BQ8_0 · 8K~6,2 Go · 86–135 tok/s estimationExcellent
Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 93–144 tok/s estimationExcellent
Llama 3.2 3B InstructQ8_0 · 8K~5,2 Go · 109–170 tok/s estimationExcellent
Qwen3 1.7BQ8_0 · 8K~3,7 Go · 152–254 tok/s estimationExcellent
Llama 3.2 1B InstructQ8_0 · 8K~2,6 Go · 251–413 tok/s estimationExcellent
Qwen3 0.6BQ8_0 · 8K~2,6 Go · 217–403 tok/s estimationExcellent
Qwen2.5 72B InstructIQ4_XS · 8K~42,4 Go · 14–19 tok/s estimationCompatible
Llama 3.3 70B InstructQ4_K_M · 8K~45,1 Go · 13–18 tok/s estimationCompatible
DeepSeek R1 Distill Llama 70BQ4_K_M · 8K~45,1 Go · 13–18 tok/s estimationCompatible
gpt-oss-120bMXFP4 · 8K~63,3 Go · 19–39 tok/s estimationOffload CPU/GPU
Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 9,5–18 tok/s estimationOffload CPU/GPU
DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de donnéesIncompatible
Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de donnéesIncompatible

Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally

Les limites en clair

48 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ Llama 3.3 70B Instruct en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.

Où acheter une Radeon PRO W7900

Les prix et les liens suivent le marché choisi.

Radeon PRO W7900

48 Go GDDR6 ECC · 864 Go/s · 295 W

Radeon PRO W7900 48 Go · 64 Go RAM → Llama 3.3 70B Instruct

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

Quels LLM la Radeon PRO W7900 peut-elle faire tourner ?
Entièrement sur le GPU : Qwen2.5 72B Instruct (IQ4_XS), Llama 3.3 70B Instruct (Q4_K_M), DeepSeek R1 Distill Llama 70B (Q4_K_M), Mixtral 8x7B Instruct (Q6_K), Qwen3 32B (Q8_0), DeepSeek R1 Distill Qwen 32B (Q8_0), Qwen2.5 32B Instruct (Q8_0), Qwen2.5 Coder 32B Instruct (Q8_0). Les modèles plus gros demandent un offload CPU/GPU.
La Radeon PRO W7900 peut-elle faire tourner un modèle 70B ?
Compatible : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la Radeon PRO W7900 dispose de 48 Go.
Comment la vitesse est-elle estimée ?
La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (864 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.