Une RTX 3090 morte, et le casse-tête du remplacement pour l'IA locale
Un utilisateur de r/LocalLLaMA rapporte la panne de sa RTX 3090, envoyée en réparation. Achetée environ 750 dollars en 2023, la carte se négocie désormais à plus de 1500 dollars d'occasion sur eBay. Pour la remplacer, il écarte les Blackwell, trop chères pour 16 Go au maximum, et la 7900 XTX, faute de CUDA pour ses modèles de repliement de protéines. Il utilise intensivement un modèle Qwen 27B.

matérielopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.