Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Un setup local à 1 600 € qui tourne à 70-90 tokens par seconde

Sur r/LocalLLaMA, un utilisateur détaille sa configuration pour faire tourner un modèle en local : processeur i7-14700KF, 64 Go de RAM et carte graphique Radeon RX 9070XT 16 Go, pour environ 1 600 €. L'inférence passe par strata, un projet hébergé sur GitHub, avec le modèle Qwen3.8-Flash-Next-GSQ-RCO-Q2_0. Débit annoncé : entre 70 et 90 tokens par seconde.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérielopen-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.