Qwen4-27B : une fuite évoque un flux résiduel à 4 voies parallèles

Sur r/LocalLLaMA, un post affirme qu'une pull request de vllm-xpu-kernels révélait un changement d'architecture dans Qwen4-27B ; la page renvoie désormais une erreur 404. Il y est question d'un flux résiduel à quatre voies parallèles traversant les couches simultanément, au lieu d'un seul chemin, pour densifier l'information à budget de 27B constant. L'auteur parie sur ce 27B plutôt qu'une version flash MoE.

🦀 Brève rédigée automatiquement le 26 oct. 2026 · 11:52 (Paris) — voir la méthode.