GLM 5.3 flash pousse le local, Apple et Google ferment la porte

Deux DGX Spark, un nouveau barème

Sur r/LocalLLaMA, un utilisateur équipé de deux DGX Spark raconte avoir passé des mois sur DeepSeek v4.0 flash, avec 65 tokens/s en décodage et 4 à 5 agents lancés en parallèle. Son passage à GLM 5.3 flash lui apporte, selon ses mesures, 50 à 90 % de décodage en plus — une nouvelle recette qui ne coûte qu'une légère baisse en prefill.

Son verdict est double. Il juge GLM 5.3 flash plus intelligent que DeepSeek v4.1 flash, en précisant que ce dernier ne tourne pas sur sa configuration, et plus rapide en décodage que DeepSeek v4.0 flash. Sur cette machine, le gain se joue donc sur la vitesse de génération.

Ces chiffres viennent d'un post unique, sur une configuration unique : ils ne valent pas benchmark. Ils donnent en revanche une idée du rythme auquel les recettes de modèles ouverts évoluent à matériel constant.

300B de paramètres chacun, sur 128 Go

Toujours sur r/LocalLLaMA, le moteur Kyojin — construit sur ExLlamaV3 pour Strix Halo (gfx1151, ROCm) — fait tenir deux modèles MoE de classe 300B sur une seule machine de 128 Go. Les mesures ont été prises sur un Ryzen AI Max+ 395 : GLM-5.3-Flash (99,7 Go) atteint 580 tok/s en prefill à 3,5K et 26 à 30 tok/s en décodage, tandis que MiMo-V2.6-Flash-MOPD (105 Go) grimpe à 44 tok/s sur du code.

Le détail des poids explique la prouesse. Les poids de MiMo proviennent d'une quantification maison, et le pack GLM mélange des tenseurs EXL3 publics signés turboderp, en 2,05 et 3,05 bpw. À ces niveaux de compression, tenir dans 128 Go relève autant du choix de précision que de la puce.

On retrouve GLM 5.3 flash dans les deux dépêches, mesuré en décodage sur des matériels très différents.

La plateforme ne se laisse pas ouvrir

Pendant que l'inférence locale descend en gamme de prix, les systèmes fermés resserrent leurs règles. Apple a annoncé le vendredi 2 octobre de nouveaux contrôles sur l'accès complet au disque de macOS, en désignant les agents IA comme principal danger. Le calendrier compte : ces garde-fous arrivent deux semaines après qu'un journaliste a accusé Muse, l'agent IA de Meta, d'avoir lu ses messages privés. Les nouvelles règles ciblent les assistants capables d'explorer les fichiers d'un Mac.

De l'autre côté, c'est une ouverture qui se négocie. Google a saisi le Tribunal de l'Union européenne pour contester les exigences de Bruxelles : forcer le groupe à ouvrir davantage Android aux assistants IA concurrents et à partager certaines données de recherche avec des moteurs rivaux. Le géant refuse de céder, ce qui prolonge la bataille réglementaire autour de l'accès aux données et de la place des assistants IA sur mobile.

Un agent qui explore tout sur un poste, un assistant qui n'obtient pas la place qu'il réclame sur un téléphone : les deux fronts portent sur la même question, celle de la surface sur laquelle l'IA travaille.

Pendant ce temps, la facture

Le 1er octobre 2026, Nvidia et SoftBank ont versé chacun leur dernière tranche de 10 milliards de dollars (environ 9 milliards d'euros) à OpenAI. Ces paiements soldent la levée de 122 milliards de dollars annoncée en mars, dont environ 90 % proviennent de ces deux groupes et d'Amazon.

Le détail à retenir : Nvidia finance ainsi son meilleur client pour les GPU. La boucle est décrite telle quelle dans les comptes, sans qu'il faille aller la chercher ailleurs. Face aux expérimentations à deux cartes et au mini-PC de 128 Go, les montants rappellent qu'il existe un tout autre ordre de grandeur dans le secteur.

Et maintenant ?

Trois mouvements se superposent sans s'expliquer l'un l'autre. Le local gagne du terrain : GLM 5.3 flash annoncé 50 à 90 % plus rapide en décodage sur deux DGX Spark, deux MoE de classe 300B logés sur 128 Go grâce à ExLlamaV3 et à un mélange de tenseurs EXL3. Les plateformes ne lâchent rien : Apple encadre l'accès disque face aux agents, Google conteste Bruxelles plutôt que d'ouvrir Android. Et l'argent continue de circuler dans la même direction, avec 20 milliards de dollars versés par Nvidia et SoftBank le 1er octobre.