Un dépôt GitHub de ressources pour faire tourner vLLM sur deux GPU Nvidia
Un membre de r/LocalLLaMA a publié un dépôt GitHub, dual-gpus-vllm, réunissant des ressources pour faire tourner vLLM sur une configuration à deux GPU Nvidia. Il raconte avoir voulu pousser son PC et constaté que les ressources disponibles étaient limitées, ce qui l'a poussé à produire les siennes. Il espère que ce travail sera utile à d'autres utilisateurs.
open-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 1 oct. 2026 · 13:47 — voir la méthode.