Un iPad fait tourner un 27B sur GPU externe, Windows parie sur le local

L'inférence locale sort du PC

LemonSeed Studio, un éditeur et IDE pour iPad, exécute l'inférence directement sur un GPU AMD placé dans un boîtier Thunderbolt. Le pilote Linux amdgpu et amdkfd, non modifié, est embarqué via une extension PCIDriverKit, et le moteur LSE tourne sur la carte. Sur un iPad Pro avec une Radeon AI PRO R9700, Qwen3.8-27B en Q4 accompagné d'un draft Q8 DFlash2 atteint 158,5 tok/s, contre 31,2 en baseline, avec 131k de contexte.

Sur un autre terrain, le framework MLX restage les opérandes en FP16 lors de la multiplication de matrices quantifiées. En les stagant en FP8, on accède au chemin matriciel FP8 deux fois plus rapide du matériel Apple Silicon M6. La même idée appliquée en int8 sur M5 donne un gain de prefill comparable : +40 % sur Qwen3-8B, et jusqu'à +50 % sur un modèle 27B. Ce fork n'est pas upstream (mlx#4627) et augmente la perplexité de moins de 1 %.

Les chiffres donnent la mesure de l'écart : 158,5 tok/s contre 31,2 en baseline, sur un contexte de 131k tokens, avec un Q4 épaulé par un draft Q8 DFlash2. Côté MLX, l'astuce tient en une ligne — changer le format de staging des opérandes — et se paie de moins de 1 % de perplexité en plus, sans être intégrée en amont du framework. Dans les deux cas, la cible n'est plus le serveur.

Windows veut garder l'IA sur la machine

Microsoft présente « Intelligence Hybride », une brique de Windows capable de tourner en local. L'objectif affiché par l'éditeur : faire de son système d'exploitation la plateforme des agents IA.

Le point sur lequel l'entreprise insiste n'est pas telle ou telle capacité, mais l'endroit où elles s'exécutent : cette intelligence tourne sur la machine, et non dans le cloud. C'est cet argument qui est mis en avant dans la présentation.

Cette insistance sur le local résonne avec les travaux d'inférence décrits plus haut, sans qu'on puisse parler de réponse ou de course coordonnée : les acteurs ne se citent pas, et les échelles n'ont rien à voir, d'un iPad modifié à un système d'exploitation grand public.

Des scans de sécurité gratuits pour l'open-source

Anthropic propose un nouveau service, OSS Scanner, destiné à aider les projets open-source à traquer des vulnérabilités de sécurité. Les projets qui s'inscrivent reçoivent, selon l'entreprise, des scans de sécurité réguliers et approfondis, réalisés par ses modèles les plus puissants, et sans frais.

L'intérêt affiché est le tempo : des mainteneurs alertés plus tôt de problèmes potentiels, sur des bases de code qu'ils ne peuvent pas toujours surveiller seuls. Le périmètre exact des projets éligibles et la fréquence précise des scans ne sont pas détaillés au-delà du caractère « régulier » annoncé.

Strata et l'historique qui perd ses ancêtres

Sur r/LocalLLaMA, u/dasbin raconte avoir vu le script « UPDATE » intégré à Strata échouer : git ne trouvait plus d'ancêtre commun. Selon lui, tous les commits historiques du projet ont été réécrits pour supprimer la mention « Co-Authored by Claude » des descriptions.

Il juge la pratique « assez grossière » et n'y voit pas d'autre raison qu'une volonté de dissimuler les origines du projet. Réécrire l'historique d'un dépôt casse au passage les outils qui s'appuient dessus, à commencer par les scripts de mise à jour du projet lui-même.

Et maintenant ?

Mise bout à bout, la journée dessine un paysage où le lieu d'exécution et la traçabilité pèsent autant que les performances brutes. Un iPad qui pilote un GPU externe, un Windows qui promet de garder l'IA sur la machine, un laboratoire qui met ses modèles au service de l'audit du code open-source, un projet qui efface les traces de l'assistant qui l'a écrit : la même question revient sous quatre formes — qui exécute quoi, où, et avec quelles traces visibles.