Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Deux Quadro M6000 Maxwell font tourner Qwen3.8-Flash-Next sur Strata

Un utilisateur de r/LocalLLaMA fait tourner Qwen3.8-Flash-Next-GSQ-RCO-IQ1 sur le moteur Strata, avec deux Quadro M6000 24 Go (48 Go de VRAM) et 32 Go de RAM. Il a levé la restriction du code de Strata bloquant les architectures antérieures à la 52, en conservant le pipeline de son essai sur Pascal. En 3,5 bits par poids, le modèle est plus lent qu'une version Q2 ; tous les experts tiennent en VRAM, à quasi 100 %.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérieldev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.