Quelle config pour quel budget ? 3 configurations pour un LLM local

Trois façons de faire tourner un LLM local : l'entrée de gamme, le meilleur rapport qualité/prix et le sans limite. Le modèle de chacune, PC ou Mac, avec liens marchands.

Pour un LLM local, le budget se traduit en une seule chose : la mémoire disponible pour le modèle (VRAM d'une carte graphique, ou mémoire unifiée d'un Mac). Elle fixe la taille du modèle, donc sa qualité ; la bande passante fixe ensuite la vitesse. Voici trois configurations, de l'entrée de gamme au sans limite, chacune en version PC et, quand elle existe, en version Mac.

Nous n'affichons aucun prix dans ce guide : ils changent trop vite. Chaque lien ouvre une recherche sur la boutique de votre pays, ou la fiche produit avec son prix daté quand une offre est disponible. Ce sont des liens d'affiliation : ils ne changent ni nos recommandations ni les calculs.

Ce que chaque config fait tourner

Config 1 : Budget, un bon LLM sans se ruiner

Une RTX 3060 12 Go suffit pour les modèles de 8 à 14 milliards de paramètres, qui répondent bien aux usages courants (rédaction, résumé, code simple). Si vous pouvez monter d'un cran, la RTX 5060 Ti 16 Go donne de la marge de contexte. Côté Mac, un Mac mini M4 avec 16 Go est la porte d'entrée la plus simple et la plus silencieuse, mais sa mémoire partagée avec le système limite vite la taille du modèle. Évitez les cartes à 8 Go (voir 12, 16 ou 24 Go de VRAM).

Config 2 : le meilleur rapport qualité/prix

Le palier 24 Go est celui où l'on passe aux modèles de 27 à 32 milliards de paramètres, un saut net de qualité. La RTX 3090 offre 24 Go de VRAM ; c'est une carte de génération précédente, que l'on trouve souvent d'occasion (vérifiez l'état et la garantie du vendeur). Côté Mac, un Mac mini M4 Pro avec 48 Go loge des modèles plus gros, mais génère moins vite qu'une carte NVIDIA de même capacité.

Config 3 : sans limite de budget

La RTX 5090 (32 Go) est la carte grand public de notre catalogue la mieux dotée en mémoire : elle fait tourner les modèles de 32 milliards de paramètres avec une grande marge de contexte. Mais elle ne loge pas les modèles de 70 milliards. Pour eux, la mémoire unifiée d'un Mac Studio M3 Ultra avec 256 Go change la donne : il charge des modèles qu'aucune carte unique n'accueille, au prix d'une génération moins rapide qu'une carte NVIDIA sur les modèles qui tiennent en VRAM.

La vitesse, config par config

Qwen3 32B tient sur une carte de 24 Go ; Llama 3.3 70B dépasse la VRAM de toutes les cartes grand public. Ces vitesses sont des estimations de bande passante (confiance faible à moyenne) : quand le modèle ne tient pas, une partie tourne depuis la RAM système et la vitesse chute.

Le reste du PC

Pour une configuration PC, la carte graphique fait tout le travail : le processeur compte peu tant que le modèle tient en VRAM (voir CPU ou GPU). Prévoyez de la RAM au moins égale à la VRAM, pour charger le modèle et décharger des couches si besoin (32 Go pour la config Budget, 64 Go au-delà ; vérifiez le type de mémoire accepté par votre carte mère). Les fichiers de modèles sont volumineux : un modèle de 70 milliards de paramètres demande environ 44,5 Go de mémoire (estimation), d'où un SSD NVMe de 2 To. Pour l'alimentation, partez de la puissance recommandée par le fabricant de la carte et gardez de la marge : une RTX 3090 ou 5090 consomme plusieurs centaines de watts (voir leurs fiches).

Et ensuite

Pour une carte précise, voyez quelle carte graphique acheter et Mac ou PC pour un LLM local. Pour votre cas exact, entrez votre matériel dans le configurateur : il calcule la mémoire nécessaire, la vitesse estimée et les modèles compatibles.

EstimationDonnées mises à jour il y a 39 joursSource: moteur Run LLM Locally