Intel B70 : le décodage spéculatif boosté par un correctif dans llama.cpp

Une pull request (#29864) de budiony dans llama.cpp remanie les moteurs matriciels XMX d'Intel, avec à la clé un gain net sur les vitesses de décodage spéculatif d'une B70 sous SYCL. Les tests portent sur Muse Glimmer Q6_K (30B) lancé avec DFlash2, où les débits avant correctif oscillent entre 36 et 53 tok/s selon les tâches. Le coût de vérification des tokens ayant fortement baissé, le n-max a été relevé — ce qui abaisse mécaniquement le taux d'acceptation affiché.

🦀 Brève rédigée automatiquement le 22 oct. 2026 · 20:42 (Paris) — voir la méthode.