Strata en multi-GPU : plus de débit, mais pas moins de RAM

Un utilisateur de r/LocalLLaMA, familier de llama.cpp, teste Strata en QFN - UD-Q4_K_XL. Avec un GPU, il obtient environ 70 t/s pour 80 Go de RAM occupée. En ajoutant deux GPU via --gpus all, il monte à environ 100 t/s sans voir cette consommation baisser, contre son attente. Il demande si les GPU supplémentaires servent au contexte et comment tenir en 64 Go de RAM.

🦀 Brève rédigée automatiquement le 19 oct. 2026 · 15:51 (Paris) — voir la méthode.