GPU · NVIDIA

RTX 5070 Ti pour LLM locaux : quels modèles tournent ?

Avec 16 Go de VRAM et 896 Go/s de bande passante, la RTX 5070 Ti fait tourner des modèles jusqu'à environ gpt-oss-20b entièrement sur le GPU.

VRAM16 Go GDDR7
Bande passante896 Go/s
Puissance300 W
ArchitectureBlackwell

PartagerFacebook X WhatsApp LinkedIn E-mail

Caractéristiques

VRAM: 16 Go
Type de mémoire: GDDR7
Bus mémoire: 256-bit
Bande passante: 896 Go/s
Puissance: 300 W
Backends: CUDA, Vulkan
Interface: PCIe 5.0 x16
Sortie: février 2025
Segment: Grand public
Calcul FP16: Non disponible

Spécification officielleDonnées mises à jour il y a 24 joursSource: NVIDIA specifications

Ce que fait tourner la RTX 5070 Ti

Modèles populaires sur RTX 5070 Ti + 64 Go de RAM · contexte 8K

gpt-oss-20bMXFP4 · 8K~13 Go · 163–199 tok/s mesuré	Excellent	~13 Go	163–199 tok/smesuré
Gemma 2 9B ITQ8_0 · 8K~12,7 Go · 55–76 tok/s estimation	Excellent	~12,7 Go	55–76 tok/sestimation
Qwen3 8BQ8_0 · 8K~10,5 Go · 64–89 tok/s estimation	Excellent	~10,5 Go	64–89 tok/sestimation
Llama 3.1 8B InstructQ8_0 · 8K~10,2 Go · 67–92 tok/s estimation	Excellent	~10,2 Go	67–92 tok/sestimation
DeepSeek R1 Distill Llama 8BQ8_0 · 8K~10,2 Go · 67–92 tok/s estimation	Excellent	~10,2 Go	67–92 tok/sestimation
Qwen2.5 7B InstructQ8_0 · 8K~9,2 Go · 73–100 tok/s estimation	Excellent	~9,2 Go	73–100 tok/sestimation
Mistral 7B Instruct v0.3Q8_0 · 8K~9,2 Go · 72–101 tok/s estimation	Excellent	~9,2 Go	72–101 tok/sestimation
Gemma 3 4B ITQ8_0 · 8K~5,4 Go · 121–181 tok/s estimation	Excellent	~5,4 Go	121–181 tok/sestimation
Qwen3 4BQ8_0 · 8K~6,2 Go · 109–160 tok/s estimation	Excellent	~6,2 Go	109–160 tok/sestimation
Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 116–171 tok/s estimation	Excellent	~6 Go	116–171 tok/sestimation
Llama 3.2 3B InstructQ8_0 · 8K~5,1 Go · 137–202 tok/s estimation	Excellent	~5,1 Go	137–202 tok/sestimation
Qwen3 1.7BQ8_0 · 8K~3,7 Go · 200–316 tok/s estimation	Excellent	~3,7 Go	200–316 tok/sestimation
Llama 3.2 1B InstructQ8_0 · 8K~2,5 Go · 327–509 tok/s estimation	Excellent	~2,5 Go	327–509 tok/sestimation
Qwen3 0.6BQ8_0 · 8K~2,5 Go · 305–552 tok/s estimation	Excellent	~2,5 Go	305–552 tok/sestimation
Mistral Small 3.2 24B InstructIQ4_XS · 8K~14,6 Go · 46–63 tok/s estimation	Compatible	~14,6 Go	46–63 tok/sestimation
Qwen3 14BQ6_K · 8K~14 Go · 48–66 tok/s estimation	Compatible	~14 Go	48–66 tok/sestimation
DeepSeek R1 Distill Qwen 14BQ6_K · 8K~14,3 Go · 46–64 tok/s estimation	Compatible	~14,3 Go	46–64 tok/sestimation
Qwen2.5 14B InstructQ6_K · 8K~14,3 Go · 46–64 tok/s estimation	Compatible	~14,3 Go	46–64 tok/sestimation
Phi-4 14BQ6_K · 8K~14,2 Go · 48–65 tok/s estimation	Compatible	~14,2 Go	48–65 tok/sestimation
Mistral Nemo 12B InstructQ8_0 · 8K~14,9 Go · 45–61 tok/s estimation	Compatible	~14,9 Go	45–61 tok/sestimation
Gemma 3 12B ITQ8_0 · 8K~14,1 Go · 46–64 tok/s estimation	Compatible	~14,1 Go	46–64 tok/sestimation
Qwen3 30B-A3BQ3_K_M · 8K~15,4 Go · 131–223 tok/s estimation	Compatible avec limites	~15,4 Go	131–223 tok/sestimation
Gemma 3 27B ITQ3_K_M · 8K~15,3 Go · 42–59 tok/s estimation	Compatible avec limites	~15,3 Go	42–59 tok/sestimation
Mixtral 8x7B InstructQ3_K_M · 8K~21,6 Go · 10–19 tok/s estimation	Offload CPU/GPU	~21,6 Go	10–19 tok/sestimation
Qwen3 32BQ3_K_M · 8K~18,6 Go · 6–11 tok/s estimation	Offload CPU/GPU	~18,6 Go	6–11 tok/sestimation
DeepSeek R1 Distill Qwen 32BQ3_K_M · 8K~18,5 Go · 6–11 tok/s estimation	Offload CPU/GPU	~18,5 Go	6–11 tok/sestimation
Qwen2.5 32B InstructQ3_K_M · 8K~18,5 Go · 6–11 tok/s estimation	Offload CPU/GPU	~18,5 Go	6–11 tok/sestimation
Qwen2.5 Coder 32B InstructQ3_K_M · 8K~18,5 Go · 6–11 tok/s estimation	Offload CPU/GPU	~18,5 Go	6–11 tok/sestimation
QwQ 32BQ3_K_M · 8K~18,5 Go · 6–11 tok/s estimation	Offload CPU/GPU	~18,5 Go	6–11 tok/sestimation
Qwen3 Coder 30B-A3B InstructQ3_K_M · 8K~16 Go · 80–167 tok/s estimation	Offload CPU/GPU	~16 Go	80–167 tok/sestimation
Gemma 2 27B ITQ3_K_M · 8K~16,5 Go · 15–26 tok/s estimation	Offload CPU/GPU	~16,5 Go	15–26 tok/sestimation
gpt-oss-120bMXFP4 · 8K~63,2 Go · 8,5–17 tok/s estimation	Possible mais lent	~63,2 Go	8,5–17 tok/sestimation
Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 3–5,5 tok/s estimation	Possible mais lent	~55,7 Go	3–5,5 tok/sestimation
Qwen2.5 72B InstructQ3_K_M · 8K~38,2 Go · 0,9–1,7 tok/s estimation	Déconseillé	~38,2 Go	0,9–1,7 tok/sestimation
Llama 3.3 70B InstructQ3_K_M · 8K~37 Go · 0,9–1,8 tok/s estimation	Déconseillé	~37 Go	0,9–1,8 tok/sestimation
DeepSeek R1 Distill Llama 70BQ3_K_M · 8K~37 Go · 0,9–1,8 tok/s estimation	Déconseillé	~37 Go	0,9–1,8 tok/sestimation
DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de données	Incompatible	~699 Go	Pas de données
Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de données	Incompatible	~247 Go	Pas de données

Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally

Les limites en clair

16 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ gpt-oss-20b en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.

Où acheter une RTX 5070 Ti

Votre marché

Les prix et les liens suivent le marché choisi.

GeForce RTX 5070 Ti

16 Go GDDR7 · 896 Go/s · 300 W

RTX 5070 Ti 16 Go · 64 Go RAM → gpt-oss-20b

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

Quels LLM la RTX 5070 Ti peut-elle faire tourner ?

Entièrement sur le GPU : Qwen3 30B-A3B (Q3_K_M), Gemma 3 27B IT (Q3_K_M), Mistral Small 3.2 24B Instruct (IQ4_XS), gpt-oss-20b (MXFP4), Qwen3 14B (Q6_K), DeepSeek R1 Distill Qwen 14B (Q6_K), Qwen2.5 14B Instruct (Q6_K), Phi-4 14B (Q6_K). Les modèles plus gros demandent un offload CPU/GPU.

La RTX 5070 Ti peut-elle faire tourner un modèle 70B ?

Déconseillé : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la RTX 5070 Ti dispose de 16 Go.

Comment la vitesse est-elle estimée ?

La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (896 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.