Kepler ressuscité, Blackwell poussée à 120 W : le matériel local se débrouille

Kepler : du démarrage impossible à 55 tps

Un développeur a publié un fork de llama.cpp destiné aux GPU NVIDIA Kepler et à tous ceux antérieurs à Ampere. La motivation annoncée est simple : prolonger la vie de ce matériel plutôt que de le mettre au rebut. Le blocage n'avait rien de théorique — le logiciel échouait à l'initialisation sur ces cartes (cc35-50). La correction passe par des ajustements sur le type de calcul cuBLAS.

Les chiffres donnés par l'auteur portent sur Qwen3.6-35B-A3B en Q8_0, avec quatre Tesla K40c : on partait d'un démarrage impossible, on arrive à 35 tps, puis à environ 55 tps une fois les CUDA graphs activées. Autrement dit, du matériel qui ne lançait plus le logiciel du tout retrouve un débit exploitable.

Le fork ne promet pas de miracle : il s'agit de rustines ciblées sur une couche précise de la pile, pas d'une réécriture. Mais pour quiconque a encore des cartes de cette génération dans un placard, la différence entre « ne démarre pas » et « 55 tps » est loin d'être anecdotique.

120 W au lieu de 70 : la RTX PRO 4000 en profite

Autre approche du même problème — tirer plus d'un matériel existant. Sur une RTX PRO 4000 Blackwell SFF (24 Go de GDDR7, 70 W d'usine, sans connecteur d'alimentation auxiliaire), un testeur charge un VBIOS modifié directement en mémoire et relève la limite à 120 W. Pas de flash de l'EEPROM, pas de soudure.

Sur 158 requêtes, Qwen3.8 27B continue de gagner jusqu'à 120 W, tandis que Qwen3.6 35B A3B reste quasi plat entre 106 et 120 W. Le meilleur résultat sur le 27B : de 35,04 à 58,53 tok/s, soit +67 %, avec en prime 20 % de VRAM en plus et 180 MHz sur le cœur.

Les deux dépêches se répondent sans se confondre : d'un côté on débloque du matériel trop ancien pour être supporté, de l'autre on pousse du matériel récent au-delà de son enveloppe constructeur. Dans les deux cas, c'est la couche logicielle qui fixe la limite, pas la carte.

Pocket-TTS : une écriture hors bornes corrigée

llama.cpp revient par la case sécurité. La CVE-2026-116096 identifie une faiblesse dans la fonction `list_pockettts_state_slots` du fichier `pockettts-gen.cpp`, composant Pocket-TTS : une manipulation de l'argument `mmproj` provoque une écriture hors bornes. L'attaque exige un accès local, mais l'exploit est public et peut donc servir.

La version b11796 corrige le problème (patch `0a1ef309`). Sur master et en b11871, un `mmproj` malveillant déclenche désormais un `GGML_ASSERT` actif en release et interrompt l'exécution — un arrêt net plutôt qu'une corruption silencieuse.

À noter : la faille ne concerne pas le cœur du moteur d'inférence mais un composant périphérique greffé dessus. C'est un rappel utile à l'heure où llama.cpp sert de socle à une multitude d'outils et de forks, celui de Kepler compris.

Poids ouverts, open source : les portes se referment

Le décor se complique sur le terrain des règles. Un membre de r/LocalLLaMA constate que les poids ouverts ne progressent plus aussi librement qu'on le supposait : les États-Unis et la Chine restreignent les modèles dotés de capacités cyber, et seuls des opérateurs travaillant sous l'œil de leur gouvernement et de leurs sponsors big tech y auraient accès. L'auteur y voit un risque : les grandes entreprises et les États façonnent le numérique à leur guise, pendant que particuliers et petites entreprises perdent la capacité de défendre leurs propres actifs.

Même mouvement chez r/opensource, où les modérateurs ont publié de nouvelles règles de soumission : les projets qui utilisent l'IA, qui sont fabriqués par l'IA ou qui sont destinés à l'IA n'y sont plus les bienvenus. Le message, posté samedi soir, justifie ce choix par le fait que « l'IA, telle qu'elle existe aujourd'hui, est incongrue avec cet open source ». D'autres restrictions accompagnent ce bannissement.

Et maintenant ?

Ce qui se joue dans ces quatre dépêches tient en une tension : le matériel local n'a jamais été aussi réparable par le logiciel, et l'accès à ce qui tourne dessus n'a jamais été aussi disputé. Un fork fait repartir des Tesla K40c, un VBIOS modifié arrache 67 % à une carte récente — mais dans le même temps, des modèles à capacités cyber se retrouvent réservés à des opérateurs adoubés, et une communauté open source refuse désormais les projets qui touchent à l'IA. La bidouille avance, le périmètre autorisé, lui, se resserre.