Affiner Qwen3.5-9B en QLoRA sur 500 Go de documents : la question d'un utilisateur
Un utilisateur de r/LocalLLaMA cherche la meilleure méthode pour affiner Qwen3.5-9B en QLoRA sur environ 500 Go de données brutes : images, documents scannés, PDF, Word et Excel. Il détaille son parc : un serveur Asus ESC4000 G3 et huit T4, 44 slots à 87k de contexte, 35-40 tokens/s par utilisateur. Il admet avoir trop réfléchi et dépensé après avoir consulté plusieurs chatbots.

matérielopen-sourcedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.