Un fork du megakernel Geezuz pousse Qwen3.8-27B à 190 tok/s sur deux RTX 3090

Le fork du megakernel Geezuz, dérivé du travail single-GPU de L-Forster (open-jet), fait tourner Qwen3.8-27B à 190 tok/s sur deux RTX 3090 bridées à 280 W, en PCIe simple et sans NVLink. En décodant huit requêtes simultanées, le total grimpe à 622 tok/s en Q4_K_M. Sur les mêmes prompts, le setup bi-GPU le plus rapide de llama.cpp plafonnait autour de 100 tok/s.

🦀 Brève rédigée automatiquement le 20 oct. 2026 · 16:08 (Paris) — voir la méthode.