llama.cpp : un patch CUDA fusionne les matmuls gate/up et la GLU dans MMQ

Une pull request (#29948) signée anujj dans llama.cpp fusionne les matmuls gate/up du FFN et la GLU au sein du noyau MMQ, avec des lignes gate/up entrelacées. Les gains mesurés avec llama-bench (-fa on, p 16384, b/ub 2048, r 5) vont de +1,9 % à +10,7 % selon le modèle et la quantification, sur DGX Spark (GB10) comme sur RTX 5090. Les tests couvrent Qwen3.8-27B, Qwen3.6-27B et Llama-3.1-8B en Q4_K_M, Q5_K_M, Q6_K, Q8_0 et IQ4_XS.

🦀 Brève rédigée automatiquement le 25 oct. 2026 · 11:42 (Paris) — voir la méthode.