Aller au contenu
Run LLM Locally

Llama 3.1 8B Instruct sur une Arc A770 16 GB

Avec ses 16 Go de VRAM, la Arc A770 16 GB fait tourner Llama 3.1 8B Instruct en Q4_K_M entièrement sur le GPU avec un contexte de 8K (environ 6,7 Go nécessaires). En Q8_0, il tient entièrement.

PartagerFacebookXWhatsAppLinkedInE-mail

Llama 3.1 8B Instruct

Q4_K_M · 8K contexte

Excellent

Le modèle demande environ 6,7 Go et tient dans les 15,5 Go disponibles, avec 8,8 Go de marge.

Votre matériel
Arc A770 16 GB · 64 Go RAM
Mémoire estimée
~6,7 Go estimation
VRAM (mémoire utilisable)
15,5 Go
GPU seul
Oui
Offload CPU/GPU
Non nécessaire
Vitesse de génération
39–61 tok/s estimation
Plus grand contexte en mémoire rapide
75K tokens
Confiance : faible

Basé sur : bande passante mémoire (560 Go/s) et taille du modèle

Répartition de la mémoire

~6,7 Go (6,3 Go–7,2 Go) nécessaires · estimation

Tient entièrement en VRAM · 8,8 Go libres

  • Poids du modèle4,6 Go
  • Cache KV1 Go
  • Surcoût runtime0,8 Go
  • Marge de sécurité0,3 Go
Hypothèses: contexte 8K tokens · cache KV f16 · llama.cpp (SYCL) · flash attention activée · poids = taille réelle du fichier

EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally, Hugging Face config.json + model card

Ce qui rend cette estimation moins fiable

  • pas encore de benchmark pour ce matériel et ce modèle

Les autres quantifications sur la Arc A770 16 GB

Llama 3.1 8B Instruct sur Arc A770 16 GB + 64 Go de RAM · contexte 8K
Llama 3.1 8B Instruct Q8_08K~10,2 Go · 23–36 tok/s estimationExcellent
Llama 3.1 8B Instruct Q6_K8K~8,3 Go · 30–46 tok/s estimationExcellent
Llama 3.1 8B Instruct Q5_K_M8K~7,5 Go · 34–53 tok/s estimationExcellent
Llama 3.1 8B Instruct Q4_K_M8K~6,7 Go · 39–61 tok/s estimationExcellent
Llama 3.1 8B Instruct IQ4_XS8K~6,2 Go · 42–66 tok/s estimationExcellent
Llama 3.1 8B Instruct Q3_K_M8K~5,9 Go · 46–73 tok/s estimationExcellent

Alternatives

Les GPU qui font tourner Llama 3.1 8B Instruct Q4_K_M entièrement en VRAM

D'autres modèles adaptés à la Arc A770 16 GB

Où acheter une Arc A770 16 GB

Les prix et les liens suivent le marché choisi.

Intel Arc A770 16 GB

16 Go GDDR6 · 560 Go/s · 225 W

ExcellentFait tourner Llama 3.1 8B Instruct Q4_K_M entièrement en mémoire

Prix indisponible

Disponibilité inconnue

Voir sur amazon.fr

Lien affilié

Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.

Questions fréquentes

La Arc A770 16 GB peut-elle faire tourner Llama 3.1 8B Instruct ?
Le modèle demande environ 6,7 Go et tient dans les 15,5 Go disponibles, avec 8,8 Go de marge.
Quelle quantification choisir sur la Arc A770 16 GB ?
Q8_0 est la quantification la plus précise qui tient entièrement en VRAM avec un contexte de 8K. ~10,2 Go / 15,5 Go.
Quel est le plus grand contexte possible sur la Arc A770 16 GB ?
En Q4_K_M, environ 75K tokens tiennent entièrement en VRAM avec un cache KV en f16. Un cache KV en q8_0 double à peu près ce chiffre.
À quelle vitesse tourne Llama 3.1 8B Instruct (Arc A770 16 GB) ?
Nous estimons 39–61 tok/s (estimation, confiance faible). Basé sur : bande passante mémoire (560 Go/s) et taille du modèle.