Deepseek V4.1 Flash 8K tourne à 10 tok/s sur une RTX 5090
Un utilisateur de r/LocalLLaMA a fait tourner Deepseek V4.1 Flash 8K avec Strata sur une RTX 5090, épaulée par 64 Go de DDR5 et un SSD NVMe Lexar de 4 To, sous Windows 10. Résultat : environ 10 tokens par seconde. À ce rythme, il estime qu'il coûte moins cher de passer par l'API que de payer l'électricité consommée par la machine. Il se dit surtout content que le modèle tourne, tout simplement, sur son PC.

deepseekmatérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.