LLM locaux sur Mac : comment fonctionne la mémoire unifiée
Pourquoi 64 Go de mémoire unifiée ne font pas 64 Go de VRAM, combien le GPU peut en utiliser, et quels Mac font tourner quels modèles.
Sur Apple Silicon, le processeur et le GPU partagent la même mémoire. C'est un avantage énorme pour les LLM : un Mac Studio avec 128 Go peut charger un modèle 70B qu'aucune carte graphique grand public ne contient. Mais ce n'est pas de la VRAM : macOS garde une partie de la mémoire pour lui et les applications.
Par défaut, le GPU peut utiliser environ deux tiers de la mémoire jusqu'à 36 Go, puis environ trois quarts au-delà. La commande sudo sysctl iogpu.wired_limit_mb=… relève cette limite, au prix de la mémoire disponible pour le reste. La vitesse, elle, dépend de la bande passante : 120 Go/s sur un M4, 546 Go/s sur un M4 Max, 819 Go/s sur un M3 Ultra.
| Puce | Mémoire unifiée | Utilisable par le GPU (par défaut) | Plus grand modèle en Q4_K_M, 8K |
|---|---|---|---|
| M3 Ultra (80-core GPU) | 512 Go | ~384 Go | DeepSeek R1 (671B) |
| M4 Max (40-core GPU) | 128 Go | ~96 Go | gpt-oss-120b |
| M4 Max (32-core GPU) | 36 Go | ~24 Go | Mixtral 8x7B Instruct |
| M3 Max (40-core GPU) | 128 Go | ~96 Go | gpt-oss-120b |
| M3 Max (30-core GPU) | 96 Go | ~72 Go | gpt-oss-120b |
| M4 Pro (20-core GPU) | 64 Go | ~48 Go | Qwen2.5 72B Instruct |
| M5 | 32 Go | ~21,3 Go | Qwen3 32B |
| M3 Pro | 36 Go | ~24 Go | Mixtral 8x7B Instruct |
| M4 | 32 Go | ~21,3 Go | Qwen3 32B |
| M3 | 24 Go | ~16 Go | Mistral Small 3.2 24B Instruct |
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally