llama.cpp : une option --spec-draft-n-ubatch pour optimiser la VRAM
Un post de r/LocalLLaMA signale la pull request #30459 du dépôt ggml-org/llama.cpp, signée ggerganov et intitulée « common : add --spec-draft-n-ubatch ». Elle ajoute une nouvelle option présentée comme un moyen d'optimiser l'usage de la VRAM. Le sujet concerne directement ceux qui font tourner des modèles en local.
open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 14 oct. 2026 · 11:40 — voir la méthode.