Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Un avocat fait tourner DeepSeek-V4.1-Flash en local sur huit V100 de 2018

Un avocat fait tourner DeepSeek-V4.1-Flash en local sur huit V100 de 2018 : 524K de contexte, plus de 100 tokens/s en génération, et son harnais juridique tourne dessus, 100 % en local. Ce harnais, d'abord bâti pour rendre Claude plus prévisible, n'avait jamais fonctionné sur des modèles locaux. Il note que DeepSeek Flash est le premier modèle local à s'approcher d'Opus 4.5/4.6.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
deepseekmatérielclaudeopen-source

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.