GeForce RTX 5060
8 Go GDDR7 · 448 Go/s · 145 W
RTX 5060 8 Go · 64 Go RAM → Qwen3 8B
GPU · NVIDIA
RTX 5060 pour LLM locaux : quels modèles tournent ?
Avec 8 Go de VRAM et 448 Go/s de bande passante, la RTX 5060 fait tourner des modèles jusqu'à environ Qwen3 8B entièrement sur le GPU.
- VRAM8 Go GDDR7
- Bande passante448 Go/s
- Puissance145 W
- ArchitectureBlackwell
Caractéristiques
- VRAM
- 8 Go
- Type de mémoire
- GDDR7
- Bus mémoire
- 128-bit
- Bande passante
- 448 Go/s
- Puissance
- 145 W
- Backends
- CUDA, Vulkan
- Interface
- PCIe 5.0 x8
- Sortie
- mai 2025
- Segment
- Grand public
- Calcul FP16
- Non disponible
Spécification officielleDonnées mises à jour il y a 24 joursSource: NVIDIA specifications
Ce que fait tourner la RTX 5060
| Gemma 3 4B ITQ8_0 · 8K~5,4 Go · 69–96 tok/s estimation | Excellent |
|---|---|
| Qwen3 4BQ8_0 · 8K~6,2 Go · 61–85 tok/s estimation | Excellent |
| Phi-4 Mini Instruct 3.8BQ8_0 · 8K~6 Go · 66–90 tok/s estimation | Excellent |
| Llama 3.2 3B InstructQ8_0 · 8K~5,1 Go · 77–107 tok/s estimation | Excellent |
| Qwen3 1.7BQ8_0 · 8K~3,7 Go · 120–173 tok/s estimation | Excellent |
| Llama 3.2 1B InstructQ8_0 · 8K~2,5 Go · 194–277 tok/s estimation | Excellent |
| Qwen3 0.6BQ8_0 · 8K~2,5 Go · 205–326 tok/s estimation | Excellent |
| Qwen3 8BQ4_K_M · 8K~6,9 Go · 54–74 tok/s estimation | Compatible |
| Llama 3.1 8B InstructQ4_K_M · 8K~6,7 Go · 57–77 tok/s estimation | Compatible |
| DeepSeek R1 Distill Llama 8BQ4_K_M · 8K~6,7 Go · 57–77 tok/s estimation | Compatible |
| Qwen2.5 7B InstructQ5_K_M · 8K~6,6 Go · 55–75 tok/s estimation | Compatible |
| Mistral 7B Instruct v0.3Q5_K_M · 8K~6,7 Go · 55–74 tok/s estimation | Compatible |
| Mistral Small 3.2 24B InstructQ3_K_M · 8K~13,3 Go · 3,5–6,5 tok/s estimation | Offload CPU/GPU |
| gpt-oss-20bMXFP4 · 8K~13 Go · 19–36 tok/s estimation | Offload CPU/GPU |
| Qwen3 14BQ3_K_M · 8K~9,3 Go · 10–19 tok/s estimation | Offload CPU/GPU |
| DeepSeek R1 Distill Qwen 14BQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Qwen2.5 14B InstructQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Phi-4 14BQ3_K_M · 8K~9,6 Go · 9–17 tok/s estimation | Offload CPU/GPU |
| Mistral Nemo 12B InstructQ3_K_M · 8K~8,1 Go · 23–41 tok/s estimation | Offload CPU/GPU |
| Gemma 3 12B ITQ3_K_M · 8K~7,8 Go · 31–55 tok/s estimation | Offload CPU/GPU |
| Gemma 2 9B ITQ3_K_M · 8K~7,8 Go · 35–62 tok/s estimation | Offload CPU/GPU |
| Llama 4 Scout 17B-16E InstructQ3_K_M · 8K~55,7 Go · 2,5–4,5 tok/s estimation | Possible mais lent |
| Mixtral 8x7B InstructQ3_K_M · 8K~21,6 Go · 4,5–9 tok/s estimation | Possible mais lent |
| Qwen3 32BQ3_K_M · 8K~18,6 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| DeepSeek R1 Distill Qwen 32BQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen2.5 32B InstructQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen2.5 Coder 32B InstructQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| QwQ 32BQ3_K_M · 8K~18,5 Go · 1,9–3,5 tok/s estimation | Possible mais lent |
| Qwen3 30B-A3BQ3_K_M · 8K~15,4 Go · 17–34 tok/s estimation | Possible mais lent |
| Qwen3 Coder 30B-A3B InstructQ3_K_M · 8K~16 Go · 16–32 tok/s estimation | Possible mais lent |
| Gemma 3 27B ITQ3_K_M · 8K~15,3 Go · 2,5–5 tok/s estimation | Possible mais lent |
| Gemma 2 27B ITQ3_K_M · 8K~16,5 Go · 2,5–4,5 tok/s estimation | Possible mais lent |
| Qwen2.5 72B InstructQ3_K_M · 8K~38,2 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| Llama 3.3 70B InstructQ3_K_M · 8K~37 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| DeepSeek R1 Distill Llama 70BQ3_K_M · 8K~37 Go · 0,7–1,3 tok/s estimation | Déconseillé |
| DeepSeek R1 (671B)Q8_0 · 8K~699 Go · Pas de données | Incompatible |
| Qwen3 235B-A22BQ8_0 · 8K~247 Go · Pas de données | Incompatible |
| gpt-oss-120bMXFP4 · 8K~63,2 Go · Pas de données | Incompatible |
Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally
Les limites en clair
8 Go de VRAM contiennent les poids et le cache KV de modèles jusqu'à environ Qwen3 8B en Q4_K_M. Au-delà, le modèle déborde en RAM système et ralentit fortement : la vitesse dépend alors de la bande passante de la RAM, pas du GPU.
Où acheter une RTX 5060
Les prix et les liens suivent le marché choisi.
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Quels LLM la RTX 5060 peut-elle faire tourner ?
Entièrement sur le GPU : Qwen3 8B (Q4_K_M), Llama 3.1 8B Instruct (Q4_K_M), DeepSeek R1 Distill Llama 8B (Q4_K_M), Qwen2.5 7B Instruct (Q5_K_M), Mistral 7B Instruct v0.3 (Q5_K_M), Gemma 3 4B IT (Q8_0), Qwen3 4B (Q8_0), Phi-4 Mini Instruct 3.8B (Q8_0). Les modèles plus gros demandent un offload CPU/GPU.
La RTX 5060 peut-elle faire tourner un modèle 70B ?
Déconseillé : un modèle 70B en Q4_K_M demande environ 45,1 Go ; la RTX 5060 dispose de 8 Go.
Comment la vitesse est-elle estimée ?
La génération lit chaque poids actif une fois par token : elle est limitée par la bande passante mémoire (448 Go/s ici). Nous appliquons une plage d'efficacité par backend et présentons le résultat comme une estimation tant qu'il n'y a pas de benchmark réel.