DeepSeek-V4.1-Flash en EXL3 3 bits sur deux RTX PRO 6000
Un post publié sur r/LocalLLaMA indique qu'il est désormais possible de faire tourner DeepSeek-V4.1-Flash en quantification EXL3 à 3 bits par poids sur une configuration de deux cartes RTX PRO 6000. L'auteur du message se contente de partager le résultat et demande l'avis de la communauté. La publication ne fournit ni mesure de débit ni évaluation de la qualité obtenue après compression.

deepseekmatérielopen-source
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.