ISTA-DASLab publie des quantifications GSQ-RCO de DeepSeek-V4.1-Flash-1017
ISTA-DASLab met en ligne sur Hugging Face des versions quantifiées de DeepSeek-V4.1-Flash-1017, produites avec son approche de quantification GSQ-RCO. Les fichiers GGUF sont disponibles, mais llama.cpp ne les prend pas encore en charge : le support de l'architecture d'origine n'est pas fusionné en amont. La carte du modèle mentionne un support Strata, qui désignerait selon l'auteur un fork comme Xolotl ou Maya.

deepseekopen-sourcerecherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.