Sur une seule RTX 5080, Qwen3.8 Flash Next en IQ3_S grimpe à 275 tok/s

Strata : 5 500 tok/s en prompt, 275 en génération

Le fork Strata de Basalt annonce un nouveau record de génération pour Qwen3.8 Flash Next en quantification IQ3_S. La configuration tient en une ligne : une seule RTX 5080 de 16 Go, épaulée par 64 Go de DDR5 6400 et un Core Ultra 9 285K.

Le traitement de prompt atteint 5 500 tok/s. En génération, le débit monte jusqu'à 275 tok/s sur le code et les appels d'outils, et redescend à 190 tok/s sur les traces de raisonnement. Ces mesures ont été relevées pendant une session live d'opencode, pas sur un banc synthétique.

Côté méthode, certaines pull requests d'optimisation sont encore en attente. Mais l'amont profite déjà de gains et d'optimisations mémoire, et la quantification IQ3_S est jugée pleinement utilisable. Compresser un modèle récent à ce niveau ne le rend plus inutilisable — c'est peut-être le vrai enseignement du billet.

Qwen4 : un million de tokens, sur un extrait

Un extrait publié sur r/LocalLLaMA indique que les modèles Qwen4 disposeront d'une fenêtre de contexte d'un million de tokens. À prendre avec les pincettes d'usage : on parle d'une capture diffusée sur le subreddit, pas d'une documentation publiée.

Le Qwen4-27B n'apparaît pas dans cet extrait, et une annonce est attendue à Apsara Netherlands. Une date circule aussi pour Qwen4-max, le 1er novembre — la mention d'octobre à la place suggère toutefois un simple placeholder.

La source citée est une pull request sur le dépôt qwen-code. Rien qui vaille annonce officielle, donc, mais assez pour que le fil s'agite.

Trente-neuf modèles locaux, et un neurone qui déraille

Un membre du subreddit a passé 10 à 20 heures à comparer 39 LLM locaux sur une cinquantaine de prompts, notés par quatre modèles frontière. Les gros modèles ont eu environ 44 tests, les plus petits 66, la plupart écrits par IA. La notation a coûté 30 à 40 dollars pour un juge, et deux sessions de 5 heures pour un autre. Le tout a tourné sur une RTX 5060 Ti 16 Go, 64 Go de RAM et un 5800X3D.

Autre angle, autre résultat. En modifiant un seul neurone à la fois pendant l'inférence, en balayant tous ceux de modèles comme Qwen3-8B et 14B, une expérience observe que dans environ 4 % des cas le modèle revendique une autre identité à la question « qui es-tu ? ». Certaines personas sont savoureuses, dont une lampe fluorescente de 150 watts.

La conclusion de l'auteur est moins récréative : s'identifier à un modèle plus ancien ne prouve donc pas une distillation.

Azure : 33,2 milliards de dollars, enfin en clair

Microsoft a publié pour la première fois le chiffre d'affaires trimestriel d'Azure en dollars : 33,2 milliards. Le groupe n'avait jamais communiqué ce montant auparavant.

Cette publication permet de mesurer à quel point Azure se rapproche d'AWS, son principal concurrent sur le marché du cloud. Un chiffre en valeur absolue, donc, là où il fallait jusqu'ici se contenter d'indications moins directement comparables.

Et maintenant ?

Les deux bouts de la chaîne bougent en même temps. D'un côté, une carte de 16 Go fait tourner un modèle récent en IQ3_S à quelques centaines de tok/s, mesures prises en session réelle. De l'autre, Qwen4 laisse filtrer un million de tokens de contexte via une pull request, et Azure affiche 33,2 milliards de dollars le trimestre. Entre les deux, des tests communautaires à quelques dizaines de dollars rappellent qu'un modèle ne sait pas toujours ce qu'il est.