GPU 32 Go qui s'envolent, VBIOS modifié : le local cherche des marges

Le prix de la VRAM casse les plans

Sur r/LocalLLaMA, un utilisateur raconte comment la flambée des cartes 32 Go a fait dérailler son projet. Il préparait l'achat d'un GPU pour ses deux machines, avec l'idée de les relier via RPC/Ethernet pour les faire tourner ensemble. Les tarifs qu'il relève : la B70 passée de 1,3-1,4 K à 2 K, la R9700 de 1,7-1,8 K à 2,3 K — en l'espace de « 24 heures », selon lui.

La formulation mérite d'être prise pour ce qu'elle est : un constat d'acheteur, pas une courbe officielle. Mais l'ordre de grandeur suffit à décrire le problème. Monter une station locale ne consiste plus seulement à arbitrer entre deux références : c'est suivre un marché qui bouge plus vite que le temps de décision.

Ce que ça déplace : quand la carte visée passe de 1,3-1,4 K à 2 K, le calcul VRAM/prix qui guidait le choix initial ne tient plus. La solution de repli — deux machines modestes reliées en réseau plutôt qu'une grosse carte — cesse d'être un bricolage d'enthousiaste pour devenir une option rationnelle.

120 W au lieu de 70 : le VBIOS comme levier

À l'inverse, un testeur montre qu'on peut gagner sans acheter. Sur une RTX PRO 4000 Blackwell SFF — 24 Go de GDDR7, 70 W d'usine, sans connecteur d'alimentation auxiliaire — il charge en mémoire un VBIOS modifié et remonte la limite à 120 W.

Sur 158 requêtes, Qwen3.8 27B continue de gagner jusqu'à 120 W ; Qwen3.6 35B A3B, lui, reste quasi plat entre 106 et 120 W. Meilleur résultat sur le 27B : 35,04 → 58,53 tok/s, soit +67 %, avec +20 % de VRAM et +180 MHz sur le cœur. Le tout sans flash de l'EEPROM ni soudure : la modification reste en mémoire.

Deux choses à retenir. D'abord, le gain dépend autant du modèle que de la carte — le 35B A3B ne profite presque pas des watts supplémentaires. Ensuite, c'est un réglage hors des clous d'usine, sur une carte dont la limite de 70 W et l'absence de connecteur auxiliaire ne sont pas un hasard.

Les modèles ouverts ne ralentissent pas

Nanbeige met en ligne Nanbeige4.3-33B sur Hugging Face. Selon l'équipe, le modèle devance Qwen3.8-27B sur un ensemble de benchmarks — une affirmation d'éditeur, à confronter aux usages réels. Il sert aussi de socle à la future pipeline de distillation de petits modèles, notamment Nanbeige4.3-3B, et peut-être d'autres tailles.

En parallèle, un internaute de r/LocalLLaMA appelle à sauvegarder sans attendre les quantisations que l'on souhaite conserver. Il renvoie vers la page de requêtes de modèles de mradermacher sur Hugging Face et estime que la situation est la même chez les autres producteurs de quants. Il invite aussi à créer des torrents de ces fichiers et à les partager sur llama.garden, pirateface.co et huggingbay.xyz.

Les deux dépêches se répondent sans se causer : d'un côté la production de modèles ouverts continue à bonne cadence, de l'autre une partie de la communauté part du principe que ce qui est en ligne peut disparaître du jour au lendemain.

r/opensource ferme la porte

Les modérateurs de r/opensource ont publié de nouvelles règles de soumission : les projets qui utilisent l'IA, qui sont fabriqués par l'IA ou qui sont destinés à l'IA n'y sont plus les bienvenus. Le message, posté samedi soir, justifie ce choix par le fait que « l'IA, telle qu'elle existe aujourd'hui, est incongrue avec cet open source ». D'autres restrictions accompagnent ce bannissement, sans plus de détail dans la dépêche.

La décision trace une frontière là où le vocabulaire commun brouillait les pistes. « Open source » désigne à la fois une licence, une méthode de développement et une culture de partage ; le subreddit choisit visiblement de défendre la troisième, quitte à se couper de projets qui se réclament eux aussi de l'ouverture.

Et maintenant ?

Trois signaux sur la même période : des cartes 32 Go qui s'envolent, un VBIOS modifié qui rend 67 % sur un 27B, un 33B ouvert qui revendique la tête des benchmarks, et un subreddit d'open source qui ferme sa porte à l'IA. Rien là-dedans ne forme une tendance unique, et il serait malhonnête de relier ces points en une seule courbe. Ce qui ressort, c'est que la question du local ne se pose plus seulement en termes de modèles : elle se joue sur le prix du matériel, sur la capacité à archiver ce qui est publié, et sur les règles que chaque communauté se donne.