Intel publie LLM-Scaler-vLLM PV 1.5
Sur r/LocalLLaMA, un billet signale la sortie d'Intel LLM-Scaler-vLLM PV 1.5, présentée comme apportant d'importantes améliorations. L'extrait disponible ne détaille ni la nature de ces gains ni les configurations concernées. La publication vise les utilisateurs qui font tourner des modèles en local.

open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.