Mac ou PC pour un LLM local ? Mémoire contre vitesse
Un Mac loge de plus gros modèles en mémoire unifiée ; un PC avec GPU NVIDIA génère plus vite quand le modèle tient. Vitesses estimées côte à côte.
Le choix se résume à un arbitrage : le Mac offre beaucoup de mémoire utilisable par le GPU (la mémoire unifiée), donc de gros modèles ; le PC avec carte NVIDIA offre une bande passante élevée et l'écosystème CUDA, donc de la vitesse tant que le modèle tient dans la VRAM.
Qwen3 32B : tient sur un GPU 24 Go
| Machine | Bande passante | Vitesse de génération |
|---|---|---|
| RTX 4070 | 504 Go/s | 2–4 tok/s |
| RTX 3090 | 936 Go/s | 31–42 tok/s |
| RTX 5090 | 1 792 Go/s | 53–77 tok/s |
| Apple M4 Pro (20-core GPU) · 48 GB | 273 Go/s | 8–12 tok/s |
| Apple M4 Max (40-core GPU) · 128 GB | 546 Go/s | 16–24 tok/s |
| Apple M3 Ultra (80-core GPU) · 256 GB | 819 Go/s | 23–37 tok/s |
Qwen3 32B Q4_K_M · estimation · bande passante mémoire (… Go/s) et taille du modèle
Llama 3.3 70B : dépasse la VRAM d'une carte grand public
| Machine | Bande passante | Vitesse de génération |
|---|---|---|
| RTX 4070 | 504 Go/s | 1 tok/s |
| RTX 3090 | 936 Go/s | 1–2 tok/s |
| RTX 5090 | 1 792 Go/s | 1–3 tok/s |
| Apple M4 Pro (20-core GPU) · 48 GB | 273 Go/s | 3–6 tok/s |
| Apple M4 Max (40-core GPU) · 128 GB | 546 Go/s | 8–11 tok/s |
| Apple M3 Ultra (80-core GPU) · 256 GB | 819 Go/s | 11–17 tok/s |
Llama 3.3 70B Instruct Q4_K_M · estimation · bande passante mémoire (… Go/s) et taille du modèle
Ces vitesses sont des estimations de bande passante (confiance faible à moyenne). Quand le modèle ne tient pas dans la VRAM, une partie tourne depuis la RAM système et la vitesse chute : c'est là que la mémoire unifiée d'un Mac fait la différence. Le détail du fonctionnement est dans le guide mémoire unifiée.
En résumé
Choisissez un PC avec GPU 24 Go ou plus si vous visez des modèles jusqu'à environ 32B et une génération rapide, ou si vous utilisez des outils CUDA. Choisissez un Mac avec 64 Go ou plus pour des modèles 70B ou plus, ou si vous voulez une machine silencieuse et sobre. Pour une carte précise, voyez quelle carte graphique acheter ; pour votre cas, le configurateur.
EstimationDonnées mises à jour il y a 38 joursSource: moteur Run LLM Locally