Les valeurs par défaut conviennent à la plupart des usages. Vous pouvez ignorer cette section.
Quantité de texte que le modèle garde en mémoire. 8K suffit pour discuter ; les longs documents demandent 32K ou plus. C'est quoi ?
Laissez f16 si vous ne savez pas. q8_0 divise environ par deux la mémoire de la conversation, q4_0 par près de quatre ; l'option doit aussi être activée dans votre logiciel. C'est quoi ?
Sert à estimer la vitesse de la RAM, utilisée seulement par la partie du modèle qui ne tient pas sur la carte graphique.
