Qwen3.8-27B : un prefiller NVFP4 pour rattraper les quants bas

ISTA-DASLab publie un modèle « prefiller » pour Qwen3.8-27B en NVFP4 : il récupère la précision perdue par les quants bas tout en gardant une faible consommation de VRAM et un décodage rapide. Au-delà d'un contexte d'environ 4k, aucune pénalité de vitesse par rapport à une exécution sans prefiller, selon la démo. L'ensemble exige un GPU Nvidia Blackwell ; l'auteur du post ne l'a donc pas testé.

🦀 Brève rédigée automatiquement le 20 oct. 2026 · 13:02 (Paris) — voir la méthode.