Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

llama.cpp : une PR ajoute une API /v1/systemone et cinq modèles GGUF

La pull request #29818, signée ngxson, ajoute une API /v1/systemone au serveur de ggml-org/llama.cpp. Elle concerne cinq modèles : laya, julia-1, lev, openjev et kev. Leurs versions GGUF sont déjà disponibles sur Hugging Face, sous l'organisation ggml-org.

Illustration générée : couches de calcul.
Illustration générée localement — modèles. Schéma symbolique, pas une photographie.
open-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.