DeepSeek-V4-Flash quantifié tourne sur 4 Radeon AI PRO R9700, ~79 tok/s
Le moteur affinity refusait de démarrer au-delà de deux cartes : son auteur n'en avait que deux, simulait quatre rangs et obtenait des répétitions de tokens inexpliquées. Un utilisateur possédant quatre vraies Radeon AI PRO R9700 a testé la configuration : elle fonctionne. Les quatre GPU sont reliés en P2P sur une machine Threadripper PRO 9955WX avec 128 Go de RAM, via un fork corrigé et un quant 2.875 bpw.
deepseekmatérielopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 16 oct. 2026 · 00:05 — voir la méthode.