RTX 3060 12 GB vs Arc B580 pour les LLM locaux
La VRAM décide des modèles qui tiennent entièrement sur le GPU ; la bande passante décide de leur vitesse. Voici la comparaison des deux cartes.
Laquelle choisir pour les LLM locaux ?
Les deux cartes ont 12 Go de VRAM : les mêmes modèles tiennent sur les deux.
La Arc B580 a la plus grande bande passante mémoire (456 Go/s contre 360 Go/s) : elle devrait générer plus vite quand le modèle tient sur les deux.
RTX 3060 12 GB · Caractéristiques
- VRAM
- 12 Go GDDR6
- Bande passante
- 360 Go/s
- Puissance
- 170 W
- Architecture
- Ampere
- Plus grand modèle entièrement en VRAM
- Qwen3 14B
Spécification officielleDonnées mises à jour il y a 38 joursSource: NVIDIA specifications
Arc B580 · Caractéristiques
- VRAM
- 12 Go GDDR6
- Bande passante
- 456 Go/s
- Puissance
- 190 W
- Architecture
- Xe2 (Battlemage)
- Plus grand modèle entièrement en VRAM
- Qwen3 14B
Spécification officielleDonnées mises à jour il y a 38 joursSource: Intel specifications
| Modèle | RTX 3060 12 GB | Arc B580 · 12 Go |
|---|---|---|
| Qwen3 32B | Possible mais lent1,8–3,5 tok/s | Possible mais lent1,7–3,5 tok/s |
| gpt-oss-20b | Offload CPU/GPU41–75 tok/s | Offload CPU/GPU39–75 tok/s |
| Qwen3 30B-A3B | Offload CPU/GPU16–31 tok/s | Offload CPU/GPU17–32 tok/s |
| Llama 3.1 8B Instruct | Excellent46–63 tok/s | Excellent31–49 tok/s |
| Qwen3 14B | Compatible27–36 tok/s | Compatible18–28 tok/s |
| Qwen3 8B | Excellent45–60 tok/s | Excellent30–48 tok/s |
| Llama 3.3 70B Instruct | Déconseillé0,6–1,1 tok/s | Déconseillé0,6–1,1 tok/s |
| Gemma 3 27B IT | Offload CPU/GPU2,5–5 tok/s | Offload CPU/GPU2,5–5 tok/s |
Pour chaque modèle, la quantification la plus précise qui tient entièrement en mémoire rapide ; sinon celle au meilleur résultat. Vitesses en plages ; « estimation » sauf benchmark sur ce matériel exact.
EstimationDonnées mises à jour il y a 38 joursSource: moteur Run LLM Locally