Deux CMP 170HX, Nemotron 3.5 Bolt et un RTS de 2000 : l'IA locale en vrai

Deux CMP 170HX, 116 tok/s par requête

Sur r/LocalLLaMA, un utilisateur détaille l'optimisation de Qwen 3.8 Flash Next sur deux cartes CMP 170HX, en PCIe Gen2 x4, sans mod x16 ni TP2. La recette tient en quatre briques : un checkpoint W4A16 AutoRound, un vLLM patché, du pipeline parallelism et le décodage spéculatif MTP natif du modèle.

Le résultat est mesuré, pas promis : à huit requêtes de code simultanées, 116 tok/s par requête et 231 ms avant le premier token. Autrement dit, du matériel qu'on n'attendait pas là, tenu par un empilement logiciel précis plutôt que par la puissance brute.

Côté grand public, l'approvisionnement reste le sujet. Jeff Fisher, vice-président senior de Nvidia, a démenti le 16 octobre à Taipei l'arrêt de la RTX 5090 — tout en reconnaissant, dans la même réponse, que la chaîne d'approvisionnement ne suivait pas. La carte avait disparu de la boutique en ligne américaine de Nvidia, ce qui avait nourri les rumeurs.

Quatre sorties en 72 heures, une seule sous 24 Go

Quatre gros modèles à poids ouverts sont sortis en 72 heures. Meta lance Muse Spark Open : 816 Md de paramètres, 42 Md actifs, un contexte de 1M. Mais son usage « desktop » suppose deux Mac Studio M5 Ultra de 512 Go, ou quatre de 256 Go pour environ 38 000 dollars. Le contexte d'un million de tokens se paie en mètres cubes.

NVIDIA répond avec Nemotron 3.5 Bolt : 74 Md au total, 9 Md actifs, quantifié jusqu'en 2 bits pour tenir dans 24 Go. C'est le seul des quatre à rentrer dans une carte grand public de 24 Go, et c'est précisément là que se joue l'écart entre une démo impressionnante et un modèle qu'on fait réellement tourner.

Deux stratégies opposées, donc : l'échelle maximale d'un côté, la compression agressive de l'autre. Les deux sont open weights, mais une seule tient sur le bureau.

OpenCode : 1,4 % des utilisateurs exposés

OpenCode, un agent de programmation open source, a confirmé samedi 17 octobre une intrusion qui a pu exposer les clés API OpenAI, Anthropic et Google de 1,4 % des utilisateurs de sa Console. L'entreprise relie l'incident à une « attaque par distillation » — une méthode qui consiste à exploiter un modèle pour en entraîner un autre.

Des victimes signalent déjà des frais de plusieurs centaines de dollars. Le point notable n'est pas seulement la faille : c'est la cible. Ce ne sont pas des données personnelles qui ont été visées en priorité, mais des accès à des modèles, devenus une matière première comme une autre.

Tzar (2000) porté en Rust avec Claude Code

L'utilisateur ColCarlo99 a refait Tzar: The Burden of the Crown (2000) en Rust avec le moteur Bevy, en s'appuyant sur Claude Code. Le flux de travail est précis : le modèle lit le désassemblage de l'exécutable original et porte les systèmes un par un — combat, IA, générateur de cartes, scripts de mission — pendant que le développeur compare avec le jeu d'origine et signale les écarts.

Pour contenir la dérive sur la durée, il s'appuie sur plus de 600 tests et des notes de mémoire entre sessions. Le projet est gratuit et open source, fait tourner campagnes et cartes aléatoires sous Windows 10/11 jusqu'en 4K, mais requiert une copie de Tzar.

La méthode est intéressante parce qu'elle inverse la charge : l'humain ne tape pas le code, il vérifie. Le modèle lit un binaire de 2000, le développeur arbitre. C'est probablement le partage des rôles le plus réaliste qu'on ait vu cette semaine.

Et maintenant ?

Les quatre dépêches partagent un même réflexe : mesurer plutôt qu'annoncer. Un utilisateur publie ses tok/s et son temps avant premier token, NVIDIA reconnaît que sa chaîne d'approvisionnement ne suit pas, un agent chiffre à 1,4 % la part d'utilisateurs touchés, un développeur compte ses tests. Pendant ce temps, la course aux poids ouverts se joue moins sur le nombre de paramètres que sur une question très concrète : est-ce que ça tient dans 24 Go, ou est-ce qu'il faut 38 000 dollars de Mac Studio ?