Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Le déblocage Nvidia de Zaggita testé sur des RTX 3080 20 Go chinoises

Le déblocage signé Zaggita, qui lève le bridage de Nvidia sur des instructions matérielles nécessaires à l'IA sur les cartes grand public, fonctionne aussi sur les RTX 3080 20 Go du marché chinois. Sur deux de ces cartes en tensor parallel avec vLLM, un testeur mesure +20 % en prefill et aucun changement en decode. Le gain reste donc partiel, mais il concerne du matériel d'occasion très répandu.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérieldevopen-source

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.