GLM 5.3 flash : 4,2 fois plus vite en local, pour 70 cents d'économie

Le local ne se rentabilise pas en dollars

Un utilisateur de r/LocalLLaMA a posé la même question à deux versions de GLM 5.3 flash : celle servie par l'abonnement Z.ai et la sienne, installée en local. À prompt identique, le cloud rend 117 980 tokens de sortie en 43 min 48 s, la machine locale 118 173 tokens en 10 min 24 s. Soit un rapport d'environ 4,2.

L'économie, elle, tient en une ligne : 0,70 dollar. Ce n'est donc pas la facture qui justifie l'installation, mais le débit. Derrière le chiffre, il y a deux RTX Pro 6000, un Threadripper 9960X et 128 Go de DDR5 — une configuration qui, selon l'auteur du fil, permet de produire bien plus de code par jour qu'un accès distant.

C'est un angle peu commenté du calcul local : on compare souvent les prix au token, plus rarement le temps de mur. Sur une tâche de génération longue, l'écart se joue en heures de travail, pas en centimes.

RTX 8000 48 Go : le gigaoctet de VRAM au rabais

Le marché de l'occasion raconte la même histoire autrement. En 2024, toujours d'après le même utilisateur, sa RTX 8000 48 Go lui coûtait 2 400 dollars ; elle se négocie aujourd'hui autour de 2 100 dollars. Pendant ce temps, deux RTX 3090 valaient 1 600 à 1 800 dollars, contre 1 500 à 1 600 dollars pour une seule désormais. Conséquence : la RTX 8000 devient moins chère au gigaoctet de VRAM, et une seule RTX 3090 coûte aujourd'hui ce que deux coûtaient il y a deux ans.

Le compromis est ailleurs. La RTX 8000 est plus lente en inférence — 672 Go/s de bande passante mémoire contre 936 Go/s — mais elle offre le double de mémoire pour 265 W contre 700 W. Sur une machine qui tourne toute la journée pour du code, le calcul de la VRAM et celui de la consommation ne désignent pas la même carte.

Qwen4 fuit par deux pull requests

Le dépôt GitHub qwen-code (QwenLM) a laissé passer ce qu'aucune communication officielle n'avait annoncé. Deux pull requests exposent une série d'identifiants : qwen4, qwen4-max, qwen4-plus, qwen4.5-max, qwen4-coder-plus, qwen4-max-2026-10-01, openai/qwen4-max et qwen4-omni-120b-think.

D'après la PR, tous résolvent vers 262 144, et le dernier sert déjà de modèle de session dans les fixtures omni. Ces identifiants ne sont donc pas hypothétiques : ils correspondent à des configurations réelles du dépôt. La fuite donne un aperçu de la prochaine famille Qwen avant toute annonce, avec la nomenclature que l'on devine — variantes max, plus, coder, omni, et une date de version.

LLM 0.37 et les agents juridiques qui travaillent à l'aveugle

Côté outillage, Simon Willison publie LLM 0.37, son outil en ligne de commande et sa bibliothèque Python. Une commande `llm openai endpoint add` facilite la configuration d'endpoints compatibles OpenAI, et deux modèles font leur entrée : gpt-6.1-sol et gpt-6.1-terra. Le modèle par défaut passe à gpt-6-luna, moitié moins cher que gpt-5.6-luna. Les embeddings acceptent désormais plusieurs content-type, ce qu'exige Gemini Embedding 2.

Chez Legora, la contrainte est d'une autre nature. L'entreprise développe des agents pour des avocats, mais ne peut consulter aucune trace de leur travail : les données appartiennent aux clients des cabinets. Jacob Lauritzen, son CTO, explique dans Latent Space comment on construit et teste un agent quand on ne voit pas ce qu'il fait.

Legora figure parmi les entreprises à la croissance la plus rapide du secteur. Un détail qui rend l'exercice plus intéressant : le peu de visibilité sur les traces n'a pas l'air de freiner l'adoption.

Et maintenant ?

Le fil commun de ces dépêches, c'est la mesure. À 0,70 dollar d'écart, ce sont les minutes gagnées qui décident, et le matériel qui les rend possibles — une RTX 8000 48 Go à 2 100 dollars, une RTX 3090 au prix de deux il y a deux ans. Pendant ce temps, les noms des prochains modèles circulent par les dépôts avant les annonces, et des agents juridiques tournent sur des données que leur concepteur ne voit jamais. Trois façons de bâtir avec des modèles qu'on ne maîtrise pas entièrement.