Zest, une interface graphique qui emballe Lemonade server et l'agent Pi
Un développeur publie Zest, un projet né pour un ami qui voulait se lancer dans les modèles locaux. Zest est une interface qui regroupe le serveur Lemonade — lequel installe llama.cpp et les backends nécessaires — et l'agent Pi, pour éviter de manipuler des serveurs en ligne de commande et des paramètres. Il suffit de télécharger une appimage et de suivre la visite de démarrage : des réglages par défaut raisonnables, comme 128k de contexte, et des recommandations de modèles testés entre 10 et 26 Go de VRAM sont fournis.

open-sourceagentsdev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.