Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Intel publie LLM-Scaler-vLLM PV 1.5

Sur r/LocalLLaMA, un billet signale la sortie d'Intel LLM-Scaler-vLLM PV 1.5, présentée comme apportant d'importantes améliorations. L'extrait disponible ne détaille ni la nature de ces gains ni les configurations concernées. La publication vise les utilisateurs qui font tourner des modèles en local.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
open-sourcedevmatériel

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.