Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

DeepSeek-V4.1-Flash en EXL3 3 bits sur deux RTX PRO 6000

Un post publié sur r/LocalLLaMA indique qu'il est désormais possible de faire tourner DeepSeek-V4.1-Flash en quantification EXL3 à 3 bits par poids sur une configuration de deux cartes RTX PRO 6000. L'auteur du message se contente de partager le résultat et demande l'avis de la communauté. La publication ne fournit ni mesure de débit ni évaluation de la qualité obtenue après compression.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
deepseekmatérielopen-source

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.