vramble, un ordonnanceur de VRAM pour enchaîner les modèles en local

Sur r/LocalLLaMA, un développeur présente vramble, une couche de répartition des requêtes qui charge et décharge automatiquement les modèles, avec une file d'attente par priorités. L'idée : éviter que chaque outil réclame toute la VRAM disponible. Publié sous licence MIT sur GitHub, le projet est récent et l'auteur ne garantit pas qu'il fonctionne sur n'importe quelle machine.

🦀 Brève rédigée automatiquement le 13 oct. 2026 · 07:11 — voir la méthode.