Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Strata : avant la 0.1.45, l'échantillonnage par défaut tombait en greedy

Avant Strata 0.1.45, une config de run sans bloc sampling décodait en greedy quand la requête ne fixait pas sa température — d'où les boucles de ces modèles. Le correctif upstream #2685 applique les valeurs de la fiche modèle : temp 1.0, top_p 0.95, top_k 20 en thinking ; temp 0.7, top_p 0.8, top_k 20 et presence penalty 1.5 sinon. Ce que le client envoie reste prioritaire.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
devopen-sourcematériel

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.