Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Deepseek V4.1 Flash 8K tourne à 10 tok/s sur une RTX 5090

Un utilisateur de r/LocalLLaMA a fait tourner Deepseek V4.1 Flash 8K avec Strata sur une RTX 5090, épaulée par 64 Go de DDR5 et un SSD NVMe Lexar de 4 To, sous Windows 10. Résultat : environ 10 tokens par seconde. À ce rythme, il estime qu'il coûte moins cher de passer par l'API que de payer l'électricité consommée par la machine. Il se dit surtout content que le modèle tourne, tout simplement, sur son PC.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
deepseekmatérieldev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.