Qwen3.8 en local : trois checkpoints sur la même RTX PRO 6000

Trois checkpoints, un même banc d'essai

La méthode est simple et tenue : trois semaines de tests, dix épreuves identiques, trois checkpoints Qwen3.8 passés dans les mêmes conditions sur une RTX PRO 6000. Les candidats sont RadixArk/Qwen3.8-27B-NVFP4, un modèle dense ; orcarouter/Qwen3.8-27B-Uncensored-NVFP4, dense également mais issu d'un fine-tune non censuré ; et RadixArk/Qwen3.8-Flash-Next-NVFP4, un MoE.

Le bilan est serré. Flash-Next remporte cinq tests, le 27B dense en gagne quatre, et une épreuve se termine à égalité. Le fine-tune non censuré n'en remporte aucun. Sur un point, en revanche, les trois sont à égalité parfaite : le rappel en contexte long atteint 100 % pour chacun d'eux.

Autrement dit, le classement se joue à la marge, et non sur un effondrement d'un des modèles sur une famille de tâches. Un résultat qui rappelle qu'à taille comparable, l'écart entre un MoE et un dense se paie surtout ailleurs — sur les temps d'exécution.

Le prefill, là où le MoE se détache

Les scores disent une chose, les chronomètres une autre. Sur une fenêtre complète, le prefill prend 22,4 secondes à Flash-Next, contre 97 secondes et 99 secondes pour les deux modèles denses. La comparaison est faite à plafond de puissance différent, précise l'auteur du test.

Côté débit, un utilisateur rapporte que le draft model DFlash2 fait passer Spec-Bench de 75 à 210 tok/s sur le 27B, soit un facteur 2,8. La même source place SGLang devant vLLM : 210 contre 160 tok/s.

Ce sont ces chiffres-là, plus que le décompte des victoires, qui décident de l'usage réel. Un modèle qui répond juste mais met une minute et demie à avaler un contexte long ne se prête pas aux mêmes applications qu'un autre.

Un humanoïde de 6B et un agent pour GPU modestes

Deux autres publications de la même journée montrent la même tendance à la spécialisation. Unitree Robotics présente UnifoLM-WLA-1.0, un modèle de fondation humanoïde de 6 milliards de paramètres, entraîné sur environ 2 500 heures de données issues de robots réels. Un seul modèle couvre 64 tâches — dix de corps entier, cinquante-quatre sur table — avec des pincements parallèles ou deux mains dextres. La démonstration tourne sur le robot G1 : faire le lit, charger la machine à laver, plier du linge, trier des objets.

Chez Microsoft, FrogNano-4B-2609 vise un terrain tout différent : les GPU modestes. Dérivé de Qwen3.5-4B, il en reprend l'architecture dense à 32 couches, mais son post-entraînement, textuel, cible l'ingénierie logicielle au niveau du dépôt. L'apprentissage par renforcement s'appuie sur environ 1 500 environnements de tâches SWE synthétiques générés via TaskPilot, avec le harnais Leaf et des récompenses fondées sur des tests.

D'un côté un petit modèle qui pilote un corps, de l'autre un petit modèle qui écrit du code : dans les deux cas, la taille passe au second plan derrière le ciblage de la tâche.

Sous-titres et pile logicielle AMD

Sur le poste de travail, un développeur publie mlsubgen, un outil qui génère des sous-titres en 45 langues entièrement en local, sous Linux et avec un GPU NVIDIA. Contrairement aux wrappers Whisper habituels, il détecte la langue de chaque passage parlé et fait appel à deux moteurs de reconnaissance vocale, réconciliés par un LLM local. Il privilégie aussi les sous-titres existants, y compris l'OCR des pistes PGS, avant d'écouter l'audio.

Le matériel suit son propre calendrier. AMD a publié une mise à jour du système d'exploitation de sa Ryzen AI Developer Platform : cette nouvelle version embarque ROCm 10.0 ainsi que Linux 7.2. L'information a été relayée sur r/LocalLLaMA, où elle concerne directement les développeurs qui font tourner des modèles d'IA en local sur du matériel AMD.

Et maintenant ?

Mis bout à bout, ces dépêches dessinent un écosystème local qui se répartit en couches distinctes : des checkpoints ouverts qu'on départage sur des bancs d'essai maison, des modèles spécialisés qui visent un corps ou un dépôt de code plutôt qu'un score général, des outils qui assemblent plusieurs moteurs pour un seul livrable, et une pile logicielle — ROCm, SGLang, vLLM — dont les versions et les écarts de débit pèsent autant que les poids eux-mêmes. La comparaison de Qwen3.8 sur RTX PRO 6000 ne tranche pas entre architecture dense et MoE sur la qualité ; elle le fait sur le temps de prefill et le débit, deux critères qui dépendent largement du moteur et du matériel choisis.