MiniMax M3.1 Flash et Nemotron Bolt : l'IA ouverte vise le local

M3.1 Flash, le tiers du prix

MiniMax annonce M3.1 Flash à un tiers du coût de M3, et trois fois plus rapide. Le modèle affiche 62 % sur Automation-Bench, 74 % sur DeepSWE et 91 % sur BabyVision, avec une fenêtre de 1 million de tokens et un effort de réflexion configurable — autrement dit, on choisit combien de raisonnement le modèle s'autorise avant de répondre.

Le détail qui compte pour qui suit le circuit des modèles furtifs : Space Bunny, apparu sur OpenRouter fin septembre sans identité, était une version antérieure de M3.1 Flash. Les poids seront publiés le 23 octobre. Le nombre de paramètres, lui, n'est pas communiqué, ce qui laisse ouverte la question du matériel nécessaire pour le faire tourner.

24 Go contre 38 000 dollars

Nvidia mise sur une tendance de fond : les entreprises veulent faire tourner leurs propres modèles ouverts dans leurs propres centres de données. Le fondeur lance pour cela de nouveaux modèles ouverts destinés à exécuter des agents, et pousse en parallèle l'agent IA local, privé, fonctionnant directement sur le PC.

Le résultat concret s'appelle Nemotron 3.5 Bolt : 74 milliards de paramètres au total, 9 milliards actifs, quantifié jusqu'en 2 bits pour tenir dans 24 Go. En face, Meta lance Muse Spark Open — 816 milliards de paramètres, 42 milliards actifs, contexte de 1 million de tokens — mais son usage « desktop » suppose deux Mac Studio M5 Ultra de 512 Go, ou quatre de 256 Go pour environ 38 000 dollars.

Le fil r/LocalLLaMA qui recense la séquence note que quatre gros modèles à poids ouverts sont sortis en 72 heures. La comparaison entre les deux approches n'est pas une affaire de qualité brute : c'est un écart de matériel et de budget d'exploitation.

llama.cpp, la case obligatoire

Cohere avance sur le même terrain. Nick, de l'équipe, annonce sur r/LocalLLaMA que le support llama.cpp de l'encodeur vision de North Micro Vision Instruct a été fusionné. Toutes les dernières architectures de modèles de Cohere sont donc compatibles avec llama.cpp, la partie LLM étant déjà couverte via North Mini Code et Command A+.

L'information est technique, mais elle dit quelque chose de la période : passer par llama.cpp n'est plus un bonus pour un labo qui publie des poids, c'est la condition d'entrée sur les machines des utilisateurs. North Micro Vision sert par ailleurs de base à plusieurs des nouvelles sorties de l'entreprise.

Les clés API dans le viseur

Le revers de cette circulation des modèles et des agents : OpenCode, agent de programmation open source, a confirmé samedi 17 octobre une intrusion qui a pu exposer les clés API OpenAI, Anthropic et Google de 1,4 % des utilisateurs de sa Console.

L'entreprise relie l'incident à une « attaque par distillation », méthode qui consiste à exploiter un modèle pour en entraîner un autre. Des victimes signalent déjà des frais de plusieurs centaines de dollars. Le vecteur n'est pas le modèle lui-même, mais les identifiants stockés par l'outil qui l'appelle.

Et maintenant ?

Quatre modèles à poids ouverts en 72 heures, un 74 milliards de paramètres compressé en 2 bits pour tenir dans 24 Go, un 816 milliards qui réclame 38 000 dollars de machines, et un agent de code dont les clés ont fuité : la même semaine raconte moins une course à la taille qu'une bataille sur le coût d'exploitation. Ce qui se joue désormais, c'est la capacité à faire tourner un modèle sur du matériel existant, et à sécuriser les identifiants de ceux qui l'appellent.