Un setup local à 1 600 € qui tourne à 70-90 tokens par seconde
Sur r/LocalLLaMA, un utilisateur détaille sa configuration pour faire tourner un modèle en local : processeur i7-14700KF, 64 Go de RAM et carte graphique Radeon RX 9070XT 16 Go, pour environ 1 600 €. L'inférence passe par strata, un projet hébergé sur GitHub, avec le modèle Qwen3.8-Flash-Next-GSQ-RCO-Q2_0. Débit annoncé : entre 70 et 90 tokens par seconde.

matérielopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.