Un outil de déblocage accélère les RTX 30 et 40 pour les LLM
Un nouvel outil de déblocage, inspiré du CMP170HX, rendrait les GPU NVIDIA RTX 30 et RTX 40 nettement plus rapides sur les modèles de langage, avec jusqu'à 2x de gain en prefill et un calcul doublé. Le partage vient de r/LocalLLaMA, où son auteur invite acheteurs et vendeurs à se dépêcher. Les prix du matériel concerné grimpent aussi.

matérieldevbusiness
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.