GeForce RTX 5060 Ti 8 GB
8 Go GDDR7 · 448 Go/s · 180 W
RTX 5060 Ti 8 GB · 64 Go RAM → Qwen3 8B
GPU · NVIDIA
RTX 5060 Ti 8 GB pour LLM locaux : quels modèles tournent ?
Avec 8 Go de VRAM et 448 Go/s de bande passante, la RTX 5060 Ti 8 GB fait tourner des modèles jusqu'à environ Qwen3 8B entièrement sur le GPU.
- VRAM8 Go GDDR7
- Bande passante448 Go/s
- Puissance180 W
- ArchitectureBlackwell
Caractéristiques
- VRAM
- 8 Go
- Type de mémoire
- GDDR7
- Bus mémoire
- 128-bit
- Bande passante
- 448 Go/s
- Puissance
- 180 W
- Backends
- CUDA, Vulkan
- Interface
- PCIe 5.0 x8
- Sortie
- avril 2025
- Segment
- Grand public
- Calcul FP16
- Non disponible
Spécification officielleDonnées mises à jour il y a 24 joursSource: NVIDIA specifications
Ce que fait tourner la RTX 5060 Ti 8 GB
| Gemma 3 4B ITQ8_0 · 8K~5,4 Go · 69–96 tok/s estimation | Excellent |
|---|---|
| Qwen3 4BQ8_0 · 8K~6,2 Go · 61–85 tok/s estimation | Excellent |
| Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 66–90 tok/s estimation | Excellent |
| Llama 3.2 3B InstructQ8_0 · 8K~5,1 Go · 77–107 tok/s estimation | Excellent |
| Qwen3 1.7BQ8_0 · 8K~3,7 Go · 120–173 tok/s estimation | Excellent |
| Llama 3.2 1B InstructQ8_0 · 8K~2,5 Go · 194–277 tok/s estimation | Excellent |
| Qwen3 0.6BQ8_0 · 8K~2,5 Go · 205–326 tok/s estimation | Excellent |
| Qwen3 8BQ4_K_M · 8K~6,9 Go · 54–74 tok/s estimation | Compatible |
| Llama 3.1 8B InstructQ4_K_M · 8K~6,7 Go · 57–77 tok/s estimation | Compatible |
| DeepSeek R1 Distill Llama 8BQ4_K_M · 8K~6,7 Go · 57–77 tok/s estimation | Compatible |
| Qwen2.5 7B InstructQ5_K_M · 8K~6,6 Go · 55–75 tok/s estimation | Compatible |
| Mistral 7B Instruct v0.3Q5_K_M · 8K~6,7 Go · 55–74 tok/s estimation | Compatible |
| Mistral Small 3.2 24B InstructQ3_K_M · 8K~13,3 Go · 3,5–6,5 tok/s estimation | Offload CPU/GPU |
| gpt-oss-20bMXFP4 · 8K~13 Go · 19–36 tok/s estimation | Offload CPU/GPU |
| Qwen3 14BQ3_K_M · 8K~9,3 Go · 10–19 tok/s estimation | Offload CPU/GPU |
| DeepSeek R1 Distill Qwen 14BQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Qwen2.5 14B InstructQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Phi-4 14BQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Mistral Nemo 12B InstructQ3_K_M · 8K~8,1 Go · 23–41 tok/s estimation | Offload CPU/GPU |
| Gemma 3 12B ITQ3_K_M · 8K~7,8 Go · 31–55 tok/s estimation | Offload CPU/GPU |
| Gemma 2 9B ITQ3_K_M · 8K~7,8 Go · 35–62 tok/s estimation | Offload CPU/GPU |
| Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 2,5–4,5 tok/s estimation | Possible mais lent |
| Mixtral 8x7B InstructQ3_K_M · 8K~21,6 Go · 4,5–9 tok/s estimation | Possible mais lent |
| Qwen3 32BQ3_K_M · 8K~18,6 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| DeepSeek R1 Distill Qwen 32BQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen2.5 32B InstructQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen2.5 Coder 32B InstructQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| QwQ 32BQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen3 30B-A3BQ3_K_M · 8K~15,4 Go · 17–34 tok/s estimation | Possible mais lent |
| Qwen3 Coder 30B-A3B InstructQ3_K_M · 8K~16 Go · 16–32 tok/s estimation | Possible mais lent |
| Gemma 3 27B ITQ3_K_M · 8K~15,3 Go · 2,5–5 tok/s estimation | Possible mais lent |
| Gemma 2 27B ITQ3_K_M · 8K~16,5 Go · 2,5–4,5 tok/s estimation | Possible mais lent |
| Qwen2.5 72B InstructQ3_K_M · 8K~38,2 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| Llama 3.3 70B InstructQ3_K_M · 8K~37 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| DeepSeek R1 Distill Llama 70BQ3_K_M · 8K~37 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de données | Incompatible |
| Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de données | Incompatible |
| gpt-oss-120bMXFP4 · 8K~63,2 Go · Pas de données | Incompatible |
Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally
Les limites en clair
8 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ Qwen3 8B en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.
Où acheter une RTX 5060 Ti 8 GB
Les prix et les liens suivent le marché choisi.
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Quels LLM la RTX 5060 Ti 8 GB peut-elle faire tourner ?
Entièrement sur le GPU : Qwen3 8B (Q4_K_M), Llama 3.1 8B Instruct (Q4_K_M), DeepSeek R1 Distill Llama 8B (Q4_K_M), Qwen2.5 7B Instruct (Q5_K_M), Mistral 7B Instruct v0.3 (Q5_K_M), Gemma 3 4B IT (Q8_0), Qwen3 4B (Q8_0), Phi-4 Mini Instruct 3.8B (Q8_0). Les modèles plus gros demandent un offload CPU/GPU.
La RTX 5060 Ti 8 GB peut-elle faire tourner un modèle 70B ?
Déconseillé : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la RTX 5060 Ti 8 GB dispose de 8 Go.
Comment la vitesse est-elle estimée ?
La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (448 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.