DeepSeek V4.1 Flash dans ds4, Beam à 501B et 64 Go de RAM

DeepSeek V4.1 Flash : 40 % des tenseurs d'experts changent, pas l'architecture

La pull request #1225 ajoute le support de DeepSeek-v4.1-Flash-1017 à dwarfstar (ds4), avec ses nouveaux engrams et une tour de vision mise à jour. Le patch reste volontairement étroit : il se limite à la compatibilité des révisions de fichiers et à des contrôles qui vérifient la cohérence entre le modèle vision et le modèle de langage, avec erreur en cas d'appariement mixte.

La révision, elle, est lourde. Environ 40 % des tenseurs d'experts routés, 30 % des engrams et 50 % de ceux de la tour de vision changent. L'architecture, en revanche, reste identique et se branche sur les kernels existants — ce qui explique qu'un patch court suffise.

Côté pratique : les fichiers quantifiés avec la suite ds4 se chargent sans modification, et le checkpoint précédent ne montre pas de régression.

Beam : 501 milliards de paramètres, 23 activés à la fois

Reflection sort Beam, un modèle ouvert texte-texte en mixture-of-experts sparse : 501 milliards de paramètres au total, 23 milliards activés, pour une fenêtre de contexte d'un million de tokens. La version instruction-tuned est publiée en BF16, FP8 et NVFP4.

Le positionnement annoncé est précis : développement surtout pour l'anglais, raisonnement économe en tokens, génie logiciel et usage d'outils agentiques. Les trois formats de poids couvrent des budgets mémoire différents selon la machine qui héberge le modèle.

Strata : le greedy par accident, et 64 Go qui changent la donne

Avant Strata 0.1.45, une config de run sans bloc sampling décodait en greedy dès que la requête ne fixait pas sa température — d'où les boucles constatées sur certains modèles. Le correctif upstream #2685 applique les valeurs de la fiche modèle : temp 1.0, top_p 0.95, top_k 20 en mode thinking ; temp 0.7, top_p 0.8, top_k 20 et presence penalty 1.5 sinon. Ce que le client envoie reste prioritaire sur ces valeurs.

Un utilisateur de r/LocalLLaMA illustre le reste de la chaîne. En passant de 32 à 64 Go de DDR5-5800 sur sa machine (RTX 4090 24 Go, i9-14900K, Arch), il a pu abandonner IQ2_XS pour Unsloth UD-IQ4_XS sur Qwen3.8-Flash-Next. Son budget de 40 GiB de RAM pour les experts, complété par les 24 Go de la carte, suffit : le journal indique 40,00 GiB d'experts en RAM et aucune lecture depuis le SSD SATA.

Avec Strata 0.1.45 en contexte natif de 262K, il mesure 87 à 98 t/s en décodage et retrouve l'aiguille sur des tests de 36K et 136K tokens, avec un taux de succès du cache d'experts d'environ 91 %.

Chine : 23 technologies IA visées, l'open source explicitement écarté

Le 16 octobre 2026, Pékin a proposé de réviser le catalogue des technologies restreintes à l'export : 40 ajouts, dont 23 liés à l'IA — grands modèles, agents, clusters de calcul. Les technologies déjà rendues publiques via l'open source ou des publications académiques sont explicitement exemptées.

La consultation publique court jusqu'au 15 novembre. L'enregistrement préalable à l'export, lui, s'applique déjà.

Et maintenant ?

Ce qui relie ces dépêches, c'est moins les modèles que la plomberie : un runtime qui absorbe un nouveau checkpoint sans régression, un correctif de sampling qui évite les boucles, 32 Go de RAM en plus qui font changer de quantification. Les modèles ouverts grossissent — 501 milliards de paramètres chez Beam — et cette croissance se paie en mémoire et en compatibilité d'outillage. La proposition chinoise tranche sur un point précis : ce qui est déjà public via l'open source ou une publication académique sort du périmètre.