Clover-35B-A3B : DiffuSpace lance son premier modèle de diffusion open-source

Un socle MoE, une génération par diffusion

DiffuSpace sort son tout premier modèle : Clover-35B-A3B-Preview. L'architecture combine un socle mixture-of-experts de 35 milliards de paramètres avec environ 3 milliards de paramètres actifs par token, une génération par diffusion par blocs et un contexte de 128K. Le nom du modèle reprend d'ailleurs cette structure : 35B pour la taille totale, A3B pour les paramètres actifs.

L'éditeur annonce les meilleures performances parmi les modèles de diffusion open-source sur les benchmarks présentés au lancement. Deux précautions s'imposent : ces chiffres viennent de DiffuSpace lui-même, et le suffixe Preview signale une préversion. Aucune reproduction indépendante n'est disponible à ce stade.

L'intérêt dépasse le seul classement. La famille des modèles de diffusion open-source reste nettement moins fournie que celle des modèles autorégressifs, et l'arrivée d'un nouvel acteur sur ce créneau — avec des poids ouverts — élargit l'éventail de ce qui peut être testé, hébergé et modifié hors des API propriétaires.

MoE : trois leviers d'inférence mesurés sur DGX Spark

Sur r/LocalLLaMA, un contributeur détaille trois optimisations pour l'inférence MoE sur NVIDIA DGX Spark, avec des gains chiffrés à chaque étape.

• Le backend MoE Humming en MXFP4 apporte 9,3 % de débit supplémentaire.
• La quantization FP8 en ligne de la LM head ajoute 21,7 %.
• Le décodage spéculatif MTP (NEXTN) fait passer le débit de 36,09 à 102,88 tok/s, soit +185,1 %, avec une latence TPOT ramenée de 27,71 à 9,72 ms.

C'est le décodage spéculatif qui porte l'essentiel du gain, loin devant les deux autres leviers. Ce genre de relevé a sa valeur propre : il ne promet pas une architecture nouvelle, il documente ce qu'on peut tirer d'une machine donnée en empilant des optimisations logicielles. Pour qui fait tourner des modèles MoE en local, la question du débit se joue souvent là, dans l'empilement, plus que dans le choix du matériel.

Mesurer les modèles ouverts, et les faire tourner

Artificial Analysis passe son Intelligence Index en v5, une refonte qu'il présente comme plus précise. L'écart entre modèles à poids ouverts et fermés se creuse, de 3 à 12 points. Kimi K3.1 Pro, dont les poids ne sont pas encore publiés, mène à 46, devant DeepSeek V4.1 Flash 1017 (max) et GLM-5.3 (max), tous deux à 32.

La réserve est de taille : 60 % de l'index s'appuie sur des jeux de test privés ou des réponses retenues, ce qui rend les résultats impossibles à reproduire. Un classement qui progresse, mais dont la majorité du score échappe à la vérification extérieure.

À l'autre bout de la chaîne, la communauté continue de faire tourner ces modèles sur du matériel modeste. DeepSeek-V4.1-Flash-1017 en Q2 GGUF de nazeshinjite tourne sur une seule RTX 3090 de 24 Go, sous Windows sans WSL, avec 192 Go de DDR5 : 41 tok/s en moyenne, et 90,2 % d'accord avec l'API DeepSeek sur le token suivant en texte général, 92,4 % en code et maths. Le contexte complet d'un million de tokens tient, et le moteur d'inférence accepte trois des quants les plus téléchargés.

Firefox confie de nouveaux usages au navigateur

Côté grand public, 01net rapporte que le navigateur de Mozilla va recevoir de nouvelles fonctionnalités d'IA. Firefox doit bientôt remplir automatiquement les formulaires en ligne en fonction du contexte, et alerter l'utilisateur dès qu'un changement est apporté sur une page web.

Le remplissage de formulaires et la surveillance de pages viennent donc s'ajouter à la liste des usages confiés directement au navigateur, sans passer par une extension tierce.

Et maintenant ?

Deux mouvements se croisent. D'un côté, les modèles ouverts gagnent en variété — un MoE de diffusion chez DiffuSpace, des poids DeepSeek qui tiennent sur une seule carte 24 Go — et l'optimisation logicielle continue de déplacer les curseurs de débit sans changer de machine. De l'autre, l'évaluation se referme : quand 60 % d'un index repose sur des jeux privés, le classement devient un signal parmi d'autres, pas un verdict. Entre les benchmarks invérifiables et les mesures reproductibles faites en local, c'est souvent la seconde catégorie qui dit le plus justement ce qu'un modèle sait faire.