Quelle carte graphique acheter pour les LLM locaux : la VRAM d'abord

Comment choisir une carte graphique pour l'IA locale : la VRAM fixe la taille du modèle, la bande passante la vitesse. Le plus grand modèle de chaque GPU populaire.

Pour un LLM local, une carte graphique se juge sur deux chiffres, dans cet ordre : la quantité de VRAM, qui décide de la taille du modèle qui tient entièrement sur le GPU, puis la bande passante mémoire, qui décide de la vitesse de génération. La puissance de calcul brute (les « TFLOPS » des jeux) compte beaucoup moins.

Le plus grand modèle de chaque carte

Le tableau donne, pour des cartes courantes, le plus grand modèle de notre catalogue qui tourne entièrement en VRAM à sa quantification par défaut, avec 8K de contexte. Chaque ligne renvoie vers la page de la carte, avec les modèles compatibles et les offres.

Comment choisir

Budget serré : 12 Go (RTX 3060 12 Go) suffisent pour les modèles 8–14B, qui répondent bien aux usages courants. Évitez les cartes à 8 Go : on y est vite limité, voir 12, 16 ou 24 Go de VRAM.

Le palier 24 Go (RTX 3090 d'occasion, RTX 4090, RX 7900 XTX) est le point où l'on passe aux modèles 27–32B, un saut net de qualité. Les 32 Go de la RTX 5090 ajoutent de la marge de contexte, mais ne font pas entrer les modèles 70B, qui demandent bien plus : le configurateur calcule chaque cas.

NVIDIA, AMD ou Intel : NVIDIA (CUDA) est l'écosystème le plus largement pris en charge par les outils locaux ; AMD et Intel fonctionnent surtout via Vulkan ou des backends dédiés, avec moins de retours d'expérience. Les vitesses affichées sur le site sont des estimations de bande passante, ou des mesures réelles quand elles existent.

Besoin de plus de 32 Go ? Comparez avec un Mac à grande mémoire unifiée : Mac ou PC pour un LLM local.

EstimationDonnées mises à jour il y a 38 joursSource: moteur Run LLM Locally