Le déblocage Nvidia de Zaggita testé sur des RTX 3080 20 Go chinoises
Le déblocage signé Zaggita, qui lève le bridage de Nvidia sur des instructions matérielles nécessaires à l'IA sur les cartes grand public, fonctionne aussi sur les RTX 3080 20 Go du marché chinois. Sur deux de ces cartes en tensor parallel avec vLLM, un testeur mesure +20 % en prefill et aucun changement en decode. Le gain reste donc partiel, mais il concerne du matériel d'occasion très répandu.

matérieldevopen-source
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.