GPU · NVIDIA

RTX 6000 Ada pour LLM locaux : quels modèles tournent ?

Avec 48 Go de VRAM et 960 Go/s de bande passante, la RTX 6000 Ada fait tourner des modèles jusqu'à environ Llama 3.3 70B Instruct entièrement sur le GPU.

VRAM48 Go GDDR6 ECC
Bande passante960 Go/s
Puissance300 W
ArchitectureAda Lovelace

PartagerFacebook X WhatsApp LinkedIn E-mail

Caractéristiques

VRAM: 48 Go
Type de mémoire: GDDR6 ECC
Bus mémoire: 384-bit
Bande passante: 960 Go/s
Puissance: 300 W
Backends: CUDA, Vulkan
Interface: PCIe 4.0 x16
Sortie: décembre 2022
Segment: Station de travail
Calcul FP16: Non disponible

Spécification officielleDonnées mises à jour il y a 24 joursSource: NVIDIA specifications

Ce que fait tourner la RTX 6000 Ada

Modèles populaires sur RTX 6000 Ada + 64 Go de RAM · contexte 8K

Mixtral 8x7B InstructQ6_K · 8K~39,2 Go · 48–66 tok/s estimation	Excellent	~39,2 Go	48–66 tok/sestimation
Qwen3 32BQ8_0 · 8K~37 Go · 19–26 tok/s estimation	Excellent	~37 Go	19–26 tok/sestimation
DeepSeek R1 Distill Qwen 32BQ8_0 · 8K~37 Go · 19–26 tok/s estimation	Excellent	~37 Go	19–26 tok/sestimation
Qwen2.5 32B InstructQ8_0 · 8K~37 Go · 19–26 tok/s estimation	Excellent	~37 Go	19–26 tok/sestimation
Qwen2.5 Coder 32B InstructQ8_0 · 8K~37 Go · 19–26 tok/s estimation	Excellent	~37 Go	19–26 tok/sestimation
QwQ 32BQ8_0 · 8K~37 Go · 19–26 tok/s estimation	Excellent	~37 Go	19–26 tok/sestimation
Qwen3 30B-A3BQ8_0 · 8K~33,4 Go · 94–147 tok/s estimation	Excellent	~33,4 Go	94–147 tok/sestimation
Qwen3 Coder 30B-A3B InstructQ8_0 · 8K~33,4 Go · 85–236 tok/s estimation	Excellent	~33,4 Go	85–236 tok/sestimation
Gemma 3 27B ITQ8_0 · 8K~30,2 Go · 23–31 tok/s estimation	Excellent	~30,2 Go	23–31 tok/sestimation
Gemma 2 27B ITQ8_0 · 8K~31,6 Go · 23–31 tok/s estimation	Excellent	~31,6 Go	23–31 tok/sestimation
Mistral Small 3.2 24B InstructQ8_0 · 8K~26,6 Go · 27–36 tok/s estimation	Excellent	~26,6 Go	27–36 tok/sestimation
gpt-oss-20bMXFP4 · 8K~13 Go · 121–334 tok/s estimation	Excellent	~13 Go	121–334 tok/sestimation
Qwen3 14BQ8_0 · 8K~17,5 Go · 41–55 tok/s estimation	Excellent	~17,5 Go	41–55 tok/sestimation
DeepSeek R1 Distill Qwen 14BQ8_0 · 8K~17,8 Go · 40–54 tok/s estimation	Excellent	~17,8 Go	40–54 tok/sestimation
Qwen2.5 14B InstructQ8_0 · 8K~17,8 Go · 40–54 tok/s estimation	Excellent	~17,8 Go	40–54 tok/sestimation
Phi-4 14BQ8_0 · 8K~17,6 Go · 41–55 tok/s estimation	Excellent	~17,6 Go	41–55 tok/sestimation
Mistral Nemo 12B InstructQ8_0 · 8K~14,9 Go · 48–66 tok/s estimation	Excellent	~14,9 Go	48–66 tok/sestimation
Gemma 3 12B ITQ8_0 · 8K~14,1 Go · 49–68 tok/s estimation	Excellent	~14,1 Go	49–68 tok/sestimation
Gemma 2 9B ITQ8_0 · 8K~12,7 Go · 58–81 tok/s estimation	Excellent	~12,7 Go	58–81 tok/sestimation
Qwen3 8BQ8_0 · 8K~10,5 Go · 68–95 tok/s estimation	Excellent	~10,5 Go	68–95 tok/sestimation
Llama 3.1 8B InstructQ8_0 · 8K~10,2 Go · 71–98 tok/s estimation	Excellent	~10,2 Go	71–98 tok/sestimation
DeepSeek R1 Distill Llama 8BQ8_0 · 8K~10,2 Go · 71–98 tok/s estimation	Excellent	~10,2 Go	71–98 tok/sestimation
Qwen2.5 7B InstructQ8_0 · 8K~9,2 Go · 77–107 tok/s estimation	Excellent	~9,2 Go	77–107 tok/sestimation
Mistral 7B Instruct v0.3Q8_0 · 8K~9,2 Go · 77–107 tok/s estimation	Excellent	~9,2 Go	77–107 tok/sestimation
Gemma 3 4B ITQ8_0 · 8K~5,4 Go · 128–192 tok/s estimation	Excellent	~5,4 Go	128–192 tok/sestimation
Qwen3 4BQ8_0 · 8K~6,2 Go · 114–170 tok/s estimation	Excellent	~6,2 Go	114–170 tok/sestimation
Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 123–181 tok/s estimation	Excellent	~6 Go	123–181 tok/sestimation
Llama 3.2 3B InstructQ8_0 · 8K~5,1 Go · 144–214 tok/s estimation	Excellent	~5,1 Go	144–214 tok/sestimation
Qwen3 1.7BQ8_0 · 8K~3,7 Go · 209–334 tok/s estimation	Excellent	~3,7 Go	209–334 tok/sestimation
Llama 3.2 1B InstructQ8_0 · 8K~2,5 Go · 342–539 tok/s estimation	Excellent	~2,5 Go	342–539 tok/sestimation
Qwen3 0.6BQ8_0 · 8K~2,5 Go · 315–578 tok/s estimation	Excellent	~2,5 Go	315–578 tok/sestimation
Qwen2.5 72B InstructIQ4_XS · 8K~42,4 Go · 17–22 tok/s estimation	Compatible	~42,4 Go	17–22 tok/sestimation
Llama 3.3 70B InstructQ4_K_M · 8K~45,1 Go · 16–21 tok/s estimation	Compatible	~45,1 Go	16–21 tok/sestimation
DeepSeek R1 Distill Llama 70BQ4_K_M · 8K~45,1 Go · 16–21 tok/s estimation	Compatible	~45,1 Go	16–21 tok/sestimation
gpt-oss-120bMXFP4 · 8K~63,2 Go · 21–41 tok/s estimation	Offload CPU/GPU	~63,2 Go	21–41 tok/sestimation
Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 10–20 tok/s estimation	Offload CPU/GPU	~55,7 Go	10–20 tok/sestimation
DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de données	Incompatible	~699 Go	Pas de données
Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de données	Incompatible	~247 Go	Pas de données

Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally

Les limites en clair

48 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ Llama 3.3 70B Instruct en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.

Où acheter une RTX 6000 Ada

Votre marché

Les prix et les liens suivent le marché choisi.

RTX 6000 Ada Generation

48 Go GDDR6 ECC · 960 Go/s · 300 W

RTX 6000 Ada 48 Go · 64 Go RAM → Llama 3.3 70B Instruct

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

Quels LLM la RTX 6000 Ada peut-elle faire tourner ?

Entièrement sur le GPU : Qwen2.5 72B Instruct (IQ4_XS), Llama 3.3 70B Instruct (Q4_K_M), DeepSeek R1 Distill Llama 70B (Q4_K_M), Mixtral 8x7B Instruct (Q6_K), Qwen3 32B (Q8_0), DeepSeek R1 Distill Qwen 32B (Q8_0), Qwen2.5 32B Instruct (Q8_0), Qwen2.5 Coder 32B Instruct (Q8_0). Les modèles plus gros demandent un offload CPU/GPU.

La RTX 6000 Ada peut-elle faire tourner un modèle 70B ?

Compatible : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la RTX 6000 Ada dispose de 48 Go.

Comment la vitesse est-elle estimée ?

La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (960 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.