Kimi K3.1 Pro, Qwen3.8-Flash-Next, DeepSeek-V4.1 : gros modèles, petites machines

Kimi K3.1 Pro : poids ouverts le 4 novembre

Le fil technique consacré à Kimi K3.1 Pro annonce une publication des poids du modèle le 4 novembre. Le billet présente le modèle comme une avancée pour l'« intelligence ouverte », sans entrer dans le détail des architectures ou des chiffres de performance.

Un point retient l'attention des lecteurs : K3.1 Pro est décrit comme une version post-entraînée de K3. Autrement dit, pas un nouveau modèle construit de zéro, mais un dérivé d'une base existante. C'est précisément ce qui devrait lui valoir, selon le billet, un support dès le jour J sur toutes les plateformes — l'argument classique des versions affinées, dont la structure est déjà connue des moteurs d'inférence.

Qwen3.8-Flash-Next : 125B sur 16 Go de VRAM, deux méthodes

Deux posts de la même semaine documentent l'exécution de Qwen3.8-Flash-Next, un modèle de 125 milliards de paramètres, sur une carte à 16 Go de VRAM. Les approches diffèrent.

La première part d'une adaptation de la méthode utilisée pour glm-flash-lite, qui faisait tourner GLM-5.3 avec une empreinte mémoire très faible. Plutôt que d'épingler les 24k experts en RAM système (~48–64 Go), comme le font les setups de type Strata, l'auteur déporte directement sur SSD NVMe. Résultat sur une RTX 4090 avec 16 Go de VRAM et seulement 8 Go de RAM alloués : 28–33 tok/s en prose, 19–22 tok/s en code sur contexte court, et 20,8 tok/s en décodage à 100k de contexte.

La seconde passe par la quantification IQ3_S sur le moteur Basalt, avec un KV cache int8 et 262K de contexte, sur une RTX 5080 16 Go, un Core Ultra 9 285K et 62 Go de DDR5. Sur une session de codage agentique de 103 requêtes montant jusqu'à 130K de contexte : 5 011 t/s en moyenne pour le traitement de prompt (5 118 en pic), 153 t/s en génération (262 en pic), et 5,2 Go de RAM encore libres.

DeepSeek-V4.1 Flash : une pull request dans llama.cpp

Côté DeepSeek, c'est le moteur d'inférence qui bouge. Une pull request d'am17an (#31086) porte sur l'ajout du modèle DSV4.1 Flash dans llama.cpp, le moteur de ggml-org.

Le modèle est publié par deepseek-ai sur Hugging Face sous le nom DeepSeek-V4.1-Flash, accompagné d'un rapport technique en PDF. Le billet paru sur r/LocalLLaMA signale une taille de 763 milliards de paramètres et l'intérêt de la communauté locale pour son exécution via llama.cpp. Aucune date de fusion ni de disponibilité n'est avancée dans la dépêche.

Biosécurité : 100 M£ côté britannique

Un fil plus discret rapporte que le Royaume-Uni prévoit d'investir 100 millions de livres sterling dans un laboratoire de biosécurité consacré à l'IA. L'intitulé du fil parle d'une « première mondiale ».

L'information circule sur r/LocalLLaMA sans détail supplémentaire : ni calendrier, ni localisation, ni porteurs du projet ne sont précisés. À ce stade, on ne dispose donc que du montant et de l'objet annoncé.

Et maintenant ?

Ce qui relie ces fils, c'est moins une actualité produit qu'une préoccupation d'ingénierie : faire tenir des modèles toujours plus gros dans des machines qui ne le sont pas. Déport sur NVMe, quantification agressive, KV cache en int8 — les chiffres publiés cette semaine sur Qwen3.8-Flash-Next montrent que la question du matériel reste centrale pour la communauté locale. L'arrivée annoncée de Kimi K3.1 Pro et la pull request DeepSeek-V4.1 Flash dans llama.cpp vont dans le même sens : la valeur d'un modèle ouvert se mesure aussi à la vitesse à laquelle les moteurs existants l'acceptent.