Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

r/LocalLLaMA : montrez ce que vous faites vraiment avec Strata

Sur r/LocalLLaMA, l'utilisateur vinigrae interpelle la communauté : afficher des vitesses de tokens et faire tourner des modèles Qwen en local, c'est bien, mais sans résultats concrets cela relève de la hype. Il invite chacun à publier de petits exemples de ce qu'il parvient désormais à faire localement avec un modèle qu'il n'aurait pas pu exécuter auparavant. Il demande de préciser le quant utilisé.

Illustration générée : réseau abstrait générique.
Illustration générée localement — réseau numérique (repli générique). Schéma symbolique, pas une photographie.
open-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.